Что такое AGI, когда будет создан и перспективные возможности

1. Что такое AGI
2. Чем AGI отличается от обычного искусственного интеллекта
3. Требования к AGI
4. Тесты для проверки AGI
5. Перспективные возможности AGI
6. Проекты AGI на языковых моделях
7. Когда будет создан AGI
8. Перспективы развития AGI
9. Super AI
10. GPT-5

Что такое AGI

Artificial general intelligence (AGI) — это тип искусственного интеллекта, способный к самообучению, адаптации к ранее неизвестным ситуациям и решению любых когнитивных задач, которые может выполнять человек. Другими словами, это система, которая должна мыслить и действовать, как люди (или даже лучше), а целью исследований в области AGI является создание такого программного обеспечения, которое сможет решать любые задачи, даже те, решению которых оно не обучалось заранее так, как это делает человек. Это следующая ступень в развитии технологий ИИ, направленная на преодоление ограничений нынешних подобных систем и значительно превосходящая их.

На сегодняшний день таких систем не существует из-за разнообразных трудностей, среди которых как технические, так и теоретические проблемы, преодоление которых только предстоит ученым.

Чем AGI отличается от обычного искусственного интеллекта

Привычный нам сегодня искусственный интеллект называется узким (narrow AI), или слабым (weak AI). Такие термины имеют обоснование: современные системы предназначены для решения определенного круга задач, а также они не умеют обобщать знания. Конечно, такие системы тоже имитируют интеллектуальную деятельность человека, но делают они это на основе предопределенных инструкций и данных. Также узкий искусственный интеллект способен значительно оптимизировать различные процессы и уже помогает многим специалистам работать более эффективно, при этом такие системы имеют ограничения.

К примеру, есть нейросети для генерации картинок или презентаций, но они не могут распознавать речь или делать прогнозы для рынка акций. Так и наоборот, нейросеть, обученная прогнозировать различные события на рынке акций, не сможет генерировать презентации. То есть, слабый ИИ способен решать задачи только в выделенной области, хоть и с достаточно высокой точностью, и только после обучения специалистами. Примерами таких систем являются голосовые помощники, например, Siri и всем известные Midjourney и ChatGPT от OpenAI.

Artificial general intelligence, который называется общим, универсальным, или сильным (strong AI) будет способен решать задачи из абсолютной любой области, при этом без необходимости отдельного обучения для решения каждой конкретной задачи. Здесь можно привести простую аналогию с людьми: человек тоже способен получить знания, например, в области психологии, а затем обобщить их и применить в маркетинге. Это и есть основополагающее различие между двумя видами искусственного интеллекта. Из этого различия вытекает еще несколько особенностей: strong AI должен обладать и другими когнитивными функциями, которыми обладает человек. В эти когнитивные функции входит память, способности к обобщению, планированию, постановке целей и разделению больших задач на шаги, воображение, логическое мышление, эмоциональный интеллект и другие способности, присущие людям. Привести примеры таких универсальных моделей пока что невозможно.

Вероятно, вследствие концептуальной разницы между узким и сильным ИИ, отличаться будут и многие внутренние механизмы систем: архитектура, методы обработки данных, модели памяти, алгоритмы принятия решений и другие.

Требования к AGI

Чтобы определенную систему можно было отнести к классу artificial general intelligence, она должна отвечать достаточно длинному списку требований, которые будут рассмотрены в этой части статьи.

Общие требования:

1. Универсальность. Общий искусственный интеллект — это система, которая должна уметь решать широкий спектр задач вместо того, чтобы настраиваться на одну или несколько узких областей — то есть быть универсальной. Это означает, что она должна уметь работать с разными типами данных: текстовыми, звуковыми, изображениями, таблицами и так далее и быть способной к принятию обоснованных решений/прогнозированию на основании неполной информации о решаемой проблеме.
2. Адаптивность. Универсальный искусственный интеллект должен уметь адаптироваться к ранее неизвестным задачам без значительных изменений в своей работе. Для этого необходимо реализовать концепцию самообучения, то есть использовать методы, которые будут позволять системе обобщать знания, постоянно расширять свои возможности, и разработать гибкие алгоритмы обработки запросов. Также должна быть внедрена долговременная память, которая и позволит переносить знания из одной области на решение задач в другой.
3. Эмерджентность. Эмерджентная система — это система, в которой возникают ранее отсутствовавшие свойства, возможности и поведение, которые не свойственны отдельным ее элементам. Эмерджентное поведение системы позволяет ей генерировать новые решения.
4. Безопасность. Так как речь идет о системе, которая будет способна обрабатывать любые запросы пользователей и, соответственно, отвечать на все заданные вопросы, то должны быть предусмотрены эффективные механизмы по защите пользователей от вредоносной информации. Также должны быть соблюдены и этические нормы.

Требования к интеллектуальным способностям:

1. Восприятие и внимание. Система должна уметь воспринимать информацию через те же каналы, через которые это может делать человек: зрение, слух, обоняние, вкус, осязание. Также она должна одновременно обрабатывать данные, поступающие из нескольких источников, и концентрироваться на определенном объекте, в том числе в течение длительного времени.
2. Способность к самообучению. Этот навык позволит адаптироваться к решению сложных и ранее неизвестных задач, а также обеспечит постоянное развитие системы без вмешательства специалистов.
3. Долговременная и кратковременная память. Кратковременная память нужна для удержания и манипулирования ограниченным объемом информации в течение короткого времени, а долговременная — для способности к запоминанию важной информации на длительный временной период.
4. Планирование. Алгоритм должен уметь разрабатывать план действий для достижения целей и менять этот план в случае возникновения такой необходимости, например, при поступлении новых данных или других изменениях. Также должна быть реализована способность к идентификации проблем, прогнозированию внешних событий и собственных действий.
5. Логическое и абстрактное мышление. Система должна уметь строить дедуктивные (от общего к частному) и индуктивные (от частного к общему) умозаключения и иметь другие способности к применению логики при решении задач, требующих этого. Абстрактное мышление требуется для возможностей к обобщению и систематизации информации.
6. Система мотивации. Общий ИИ должен иметь определенные стимулы и способы постановки целей, которые будут служить дополнительным побуждением к решению задач.
7. Эмоциональный интеллект. Пожалуй, это одно из самых труднореализуемых требований, так как система должна уметь «чувствовать» эмоциональную окраску информации, настроение людей, иметь способности к эмпатии и учитывать моральные принципы.

Тесты для проверки AGI 

Существуют различные методы оценки соответствия сильного ИИ установленным требованиям. Практически ни один из этих методов не направлен на оценку системы целиком, вместо этого они оценивают отдельные компоненты, например, адаптивность или эмпатию. Рассмотрим основные методы для проверки general intelligence.

• Тест Тьюринга. Это один из самых известных и при этом давних методов проверки искусственного интеллекта. Он был предложен Аланом Тьюрингом еще в 1950 году и опубликован в статье «Вычислительные машины и разум» философского журнала «Mind». Сам Тьюринг был не философом, а математиком и логиком. Он внес существенный вклад в развитие информатики. Стандартная процедура проведения тестирования по его методике заключается в том, что в отдельных комнатах располагается двое людей, которые не могут взаимодействовать друг с другом. Один из этих людей общается с машиной посредством письменных сообщений, а другой пытается понять, кто из собеседников человек, а кто — машина. Если человек не смог определить, либо определил неверно, кто есть кто, то система прошла тестирование и является разумной. Это простая и универсальная методика, которая оценивает «общее развитие» и способности к рассуждению ИИ. Но она не охватывает абсолютно все компоненты интеллекта. Также если машина покажет интеллектуальные способности, значительно превосходящие способности среднестатистического человека, то немедленно провалит тестирование.
• Тест студента. Это уже современная методика, которая была описана Беном Герцелем, исследователем и философом в области искусственного интеллекта. Она проверяет способности машины к обучению и усвоению знаний на уровне человека. Суть методики Герцеля проста: искусственный интеллект должен успешно сдать вступительные экзамены в институт, затем наравне с другими студентами пройти все программы и сдать экзамены, после чего защитить диплом. Если машина сделала это все, то она прошла тестирование. Но и здесь есть недостатки. Во-первых, ни одна университетская программа не охватывает все те знания и навыки, которыми должен обладать универсальный ИИ. Во-вторых, машина может адаптироваться к стандартным заданиям на экзамене и лишь имитировать способности к их решению.
• Тест трудоустройства. Его разработал Нильс Джон Нильссон — исследователь и один из основоположников искусственного интеллекта. Для успешного прохождения такого тестирования машина должна пройти весь процесс трудоустройства собственными силами, в том числе создать резюме и пройти собеседование. Затем она должна выполнять рабочие обязанности специалиста. Качество выполнения этих обязанностей должно быть как минимум на уровне человека. Недостатками тестирования являются субъективность человека, который проводит собеседование — это может привести к предвзятым оценкам машины, а также то, что машина будет выполнять задачи, связанные с конкретной профессией вместо того, чтобы показывать универсальные умственные способности.
• Тест ученого. При проведении данного тестирования машина должна продемонстрировать навыки к проведению научных исследований и открытий. Она должна выполнить все компоненты процесса проведения исследований в реальной жизни: формулировка гипотезы, проведение экспериментов, анализ и так далее. Это хороший способ проверить интеллект машины, но проведение такого тестирования может занимать довольно длительный период.
• Кофейный тест. Его разработчиком является Стив Возняк — предприниматель, программист и изобретатель. В 70-х годах он стал соучредителем компании Apple Computer и долгое время занимался разработкой персональных компьютеров Apple. Суть его методики заключается в том, что машина должна самостоятельно справиться с приготовлением кофе на незнакомой кухне. То есть, она должна идентифицировать все необходимые предметы, непосредственно приготовить напиток, а затем подать его. Если машина справилась с этой задачей, то ей присущ общий интеллект. Это тестирование позволяет оценить способность ИИ взаимодействовать с окружающей средой, при этом его выполнение может не требовать от машины сложных умозаключений, что является минусом.
• Тест Войта — Кампфа. Это вымышленная методика, описанная в романе Филипа Дика «Мечтают ли андроиды об электроовцах?» и в фильме «Бегущий по лезвию», снятом по мотивам романа. Несмотря на то что тестирование вымышленное, нас в нем может интересовать концепция оценки способности машины к эмпатии и другим эмоциональным реакциям. Суть методики Войта — Кампфа заключается в том, что испытуемый должен ответить на вопросы, подразумевающие определенную эмоциональную реакцию. Если таковой реакции не возникает, то тестирование провалено. Схожими методами в будущем можно будет измерять эмоциональный интеллект AGI.

Перспективные возможности AGI 

В данный момент ни один эксперт не может дать полноценный ответ на вопрос о перспективных возможностях artificial general intelligence. Можно сказать лишь то, что, вероятно, он будет способен к самообучению и адаптации, пониманию контекста, генерации идей и даже в некоторой степени осознанию себя как сущности. Но в каких конкретно областях общий искусственный интеллект будет приносить пользу и какие проблемы будет решать? Отвечая на этот вопрос, тоже можно лишь делать предположения, некоторые из которых представлены ниже:

• медицина. Современные модели уже способны к диагностике заболеваний, анализу результатов медицинских обследований и некоторым другим действиям, при этом иногда даже с большей точностью, чем врачи. Но это не предел возможностей, и AGI может быть способен к более сложным операциям, например, связанным с анализом генетических данных конкретного человека, на основе которого будут выдвигаться определенные рекомендации;
• наука. С помощью artificial general intelligence можно будет автоматизировать проведение научных исследований и повысить их точность. В теории, такой искусственный интеллект должен проводить исследования быстрее и с меньшими затратами, чем ученые. Все это позволит человечеству активнее развиваться в самых разных сферах;
• бизнес. В сфере бизнеса AGI позволит автоматизировать управление практически любым процессом, например, производством или маркетингом, эффективно анализировать и оптимизировать бизнес-процессы, делать точные прогнозы, что позволит управляющим принимать информированные решения;
• беспилотные технологии. Это не только управление автомобилями — это управление поездами, самолетами и другими видами транспорта с целью повышения безопасности перевозок.

Это лишь крошечная часть того, что сможет делать artificial general intelligence. На самом деле по прогнозам экспертов такие системы будут вводиться во все сферы жизни и деятельности человека.

Проекты AGI на языковых моделях

Многие крупные компании ведут активную работу над языковыми моделями, частично подходящими к описанию AGI. Некоторыми из таких проектов занимается Google DeepMind. Например, проект Gato. Gato — это нейросеть, которая способна к решению различных задач, работе с разными типами данных и частично к адаптации. После обучения Gato смогла играть в игры, например, в Atari, управлять роботами, обрабатывать текст и изображения, участвовать в диалогах.

Модель BERT и ее улучшенная версия ALBERT, разработчиком которых является Google AI — это модели для обработки естественного языка (NLP). Они продемонстрировали улучшенное по сравнению с предыдущими моделями понимание контекста. Версию ALBERT называют облегченной, так как в ней была повышена производительность, что делает систему более пригодной для широкого применения.

Здесь также можно сказать про GPT-4, которая, по некоторым данным, имеет около 1,76 триллиона параметров, что обеспечивает улучшенное понимание контекста и возможности к решению более сложных задач, чем предыдущие версии. В этой модели реализована работа с разными типами данных.

В реальности же в данный момент таких проектов гораздо больше, но ни один из них нельзя назвать полноценной реализацией AGI, так как все они демонстрируют лишь определенные элементы общего ИИ.

Когда будет создан AGI

В поисках ответа на этот вопрос можно опираться на мнения ученых и проблемы, которые сегодня препятствуют созданию artificial general intelligence. Также следует учитывать темпы, с которыми будет происходить развитие данной области.

Начнем с проблем, из-за которых создать AGI еще не получилось:

• ограничения в вычислительных мощностях — современные вычислительные системы при всей своей мощности все еще не могут обрабатывать и анализировать колоссальные объемы данных, но это необходимо для реализации AGI-систем;
• отсутствие подходящих алгоритмов обучения систем — методы машинного и глубокого обучения сегодня не позволяют обучать системы так, чтобы они были способны к обобщению информации, пониманию контекста и адаптации. Сколько времени займет разработка таких алгоритмов — вопрос открытый, так как часть ученых считает, что решение этой проблемы пока что на стадии теоретических рассуждений;
• проблемы самообучения — необходимо реализовать систему, которая сможет учиться без вмешательства специалистов. Современный ИИ не способен к такому поведению;
• трудности интерпретации — современные системы принимают решения, которые довольно часто являются необъяснимыми: никто не знает, на основании каких данных или внутренних взаимосвязей они выдают результат своей работы. Именно поэтому часто их называют черными ящиками. Решения artificial general intelligence же должны быть понятными и прозрачными людям;
• проблемы контроля — системы должны строго контролироваться, чтобы не нанести вред человечеству, а существовать во благо;
• конечно же, вдобавок должно обеспечиваться стабильное и соответствующее задачам финансирование, так как разработка AGI — это дорогостоящий процесс, требующий вовлечения большого количества высококвалифицированных исследователей и ученых.

Теперь можно рассмотреть мнения ученых, исследователей и криптоэнтузиастов, которые непосредственно участвуют в разработке искусственного интеллекта. Рэй Курцвейл — футуролог и изобретатель, предполагает, что к 2029 году появятся первые версии AGI. Стоит сказать, что большая часть предсказаний этого ученого сбывалась. Бен Герцель, о котором уже упоминалось в этой статье, предположил, что при условии сохранения текущих темпов исследований подобные системы могут появиться уже в 2027 году. Джеффри Хинтон — ученый, который внес значительный вклад в глубокое обучение, прогнозирует создание подобных систем в ближайшие 5–20 лет, но подчеркивает, что этот прогноз может оказаться совсем неточным. Шейн Легг — исследователь, соучредитель и научный сотрудник DeepMind — заявлял, что шансы появления AGI к 2028 можно приравнять к 50%.

Но есть и более осторожные предсказания. Например, Ник Бостром — философ, который изучает влияние технологий на общество — не делает точных прогнозов, но указывает на то, что подобные системы могут появиться как через несколько десятилетий, так и столетий. Нильс Джон Нильссон считает, что с вероятностью 50% AGI создадут к 2050 году, а с вероятностью 90% — к 2090. Компании, занимающиеся разработкой искусственного интеллекта, например, OpenAI, публично говорят о том, что создание AGI — это задача, время выполнения которой остается неопределенным.

Перспективы развития AGI

Super AI

Super AI (супер ИИ, ASI) — это уже класс искусственного интеллекта, который будет значительно превосходить умственные способности как человека, так и общего ИИ во всех сферах. Расшифровка аббревиатуры ASI — artificial superintelligence. Сверхразум также будет обладать способностями к принятию решений и адаптации без участия специалистов и эмерджентности и с помощью различных видов мышления.

В теории суперинтеллект должен помогать человеку решать самые сложные проблемы, вопросы и задачи. К таким проблемам относится глобальное потепление и другие проблемы климата, различные мировые кризисы, серьезные заболевания, лечение которых сейчас не представляется возможным. При этом такая мощная система, как супер ИИ должна кем-то контролироваться и управляться, так как несмотря на все ее плюсы, она может представлять и потенциальную опасность для человечества. Считается, что создание AGI станет большим шагом на пути к созданию суперинтеллекта.

GPT-5

GPT-5 — это новое, грядущее поколение языковой модели от OpenAI, которое по заявлениям разработчиков должно значительно превосходить GPT-4. О дате выхода GPT-5 доподлинно ничего не известно — в сети постоянно появляются слухи о том, что это произойдет вот-вот, но они оказываются ложными. Генеральный директор OpenAI при этом не так давно заявил, что он сам не знает, когда это произойдет.

Также возникали доводы о том, что GPT-5 достигнет уровня сильного ИИ, но этого, вероятно, не произойдет. При этом GPT-5 определенно совершит некий прорыв и станет еще одним шагом к созданию AGI.