Совместный путь к искусственному общему интеллекту (AGI): сбалансированный подход

As искусственный общий интеллект (AGI) быстро развивается, дискуссия переходит от философских дебатов к практическим дебатам, открывающим огромные возможности для преобразования глобального бизнеса и человеческого потенциала.

Серия мероприятий Turing's AGI Icons объединяет новаторов искусственного интеллекта для обсуждения практических и ответственных достижений решений AGI. 24 июля Тьюринг провел второе мероприятие AGI Icons в SHACK15, эксклюзивном центре Сан-Франциско для предпринимателей и технологических новаторов. Под руководством Аниты Рамасвами, финансового обозревателя The Information, я встретился с генеральным директором Quora Адамом Д'Анджело, чтобы обсудить путь к AGI и поделиться информацией о сроках разработки, реальных приложениях и принципах ответственного развертывания.

Дорога от ИИ к AGI

«Полярная звезда», которая стимулирует исследования ИИ, — это стремление к «интеллекту» человеческого уровня. Что отличает AGI от стандартного ИИ, так это его развитие от узкой функциональности к большей общности (ширине) и производительности (глубине), даже превосходящей человеческие возможности.

Это «путь к AGI», где ИИ развивается к более автономным системам, превосходному мышлению, расширенным возможностям и улучшенной функциональности. Эти прогрессии разбиты на пять таксономических уровней:

• Уровень 0: Нет искусственного интеллекта – простые инструменты, такие как калькуляторы
• Уровень 1: Новые AGI – текущие программы LLM, такие как ChatGPT
• Уровень 2: Компетентный AGI – системы искусственного интеллекта, которые подбирают квалифицированных взрослых для выполнения конкретных задач.
• Уровень 3: Экспертный AGI – системы искусственного интеллекта для 90-го процентиля квалифицированных взрослых.
• Уровень 4: Virtuoso AGI – системы искусственного интеллекта на уровне 99-го процентиля
• Уровень 5: Сверхчеловеческий AGI — системы искусственного интеллекта, которые превосходят всех людей.

Источник

Во время нашей дискуссии Адам определил концепцию AGI как «программное обеспечение, которое может делать все, что может делать человек». Он предвидит будущее, в котором ИИ будет совершенствоваться сам по себе, в конечном итоге взяв на себя сложные человеческие задачи, выполняемые исследователями машинного обучения.

Пойдя ещё дальше, я сравнил свои взгляды на ИИ с представлением об «искусственном мозге», способном выполнять разнообразные задачи, такие как «машинный перевод, сложные запросы и кодирование». В этом и заключается отличие ИИ от более предиктивного ИИ и более узких форм машинного обучения, существовавших до него. Это похоже на эмерджентное поведение.

Реалистичные сроки разработки на пути к AGI

Как и в путешествии, самый главный вопрос об AGI: «Мы уже приехали?» Короткий ответ — нет, но по мере того, как исследования ИИ ускоряются, правильный вопрос звучит так: «Как мы можем сбалансировать ИИ? амбиция с реалистичные ожидания? "

Адам подчеркнул, что рост автоматизации благодаря ИИ, скорее, изменит роли человека, чем устранит их, что приведёт к более быстрому экономическому росту и повышению производительности. «По мере того, как эта технология становится всё более мощной, мы придём к моменту, когда 90% того, что люди делают сегодня, будет автоматизировано, но все перейдут на другие занятия».

В настоящее время большая часть мировой экономики ограничена количеством людей, готовых работать. Как только мы достигнем ОИИ, мы сможем развивать экономику гораздо более быстрыми темпами, чем это возможно сегодня.

Мы не можем назвать точные сроки реализации настоящего ИИ, но мы с Адамом привели несколько примеров того, как достижения ИИ прокладывают путь для будущих разработок ИИ. Например, эксперименты Тьюринга с инструментами для разработки ИИ показали рост производительности труда разработчиков на 33%, что указывает на ещё больший потенциал.

Реальные приложения и эффекты

Одно из наиболее многообещающих применений AGI лежит в области разработки программного обеспечения. Большие языковые модели (LLM), предшественники ИИ, уже используются для оптимизации разработки программного обеспечения и повышения качества кода. Я считаю, что эта эпоха ИИ ближе к биологии, чем к физике, где все виды интеллектуального труда будут совершенствоваться. Человечество получит гораздо больше возможностей для повышения производительности.

Моя точка зрения основана на опыте, когда я стал свидетелем 10-кратного увеличения личной производительности при использовании программ LLM и инструментов разработки искусственного интеллекта. Мы также используем искусственный интеллект в Тьюринге для оценки технических талантов и подбора подходящих инженеров-программистов и экспертов в предметной области с докторской степенью на нужные вакансии.

Например, в сфере обучения LLM я наблюдаю, что преподаватели используют эти модели для повышения производительности разработчиков и ускорения сроков реализации проектов. Автоматизируя рутинные задачи по кодированию и предоставляя интеллектуальные предложения по коду, программы LLM освобождают разработчиков, позволяя им сосредоточиться на более стратегических и творческих аспектах своей работы.

Адам подытожил: «LLM не напишут весь код, но понимание основ программирования остаётся критически важным. Калькуляторы не избавили от необходимости изучать арифметику». Он добавил: «Разработчики становятся более ценными, используя эти модели. Наличие LLM положительно влияет на рабочие места разработчиков, и это даст им много преимуществ».

Мы вступаем в золотую эру разработки программного обеспечения, когда один инженер-программист может стать в 10 раз продуктивнее, создать больше и принести пользу миру.

Технические и управленческие проблемы

Несмотря на многообещающий потенциал ОИИ, необходимо решать проблемы. Надежные процессы оценки и нормативно-правовая база необходимы для того, чтобы сбалансировать инновации AGI с общественной безопасностью.

Адам подчеркнул необходимость тщательного тестирования и изоляции в «песочнице» для ограничения наихудших сценариев. «Нужно иметь надёжный процесс оценки… и максимально приблизить дистрибутив, на котором вы проводите тестирование, к реальному использованию».

И я согласен. Узким местом для прогресса AGI теперь является человеческий интеллект, а не вычислительная мощность или данные. Человеческий опыт имеет решающее значение для точной настройки и настройки моделей ИИ, поэтому Тьюринг сосредотачивается на поиске и подборе высококлассных технических специалистов, чтобы сбалансировать модели с человеческим интеллектом.

Мы должны решать проблемы AGI напрямую, сосредоточив внимание на возможностях, а не на процессах, универсальности, производительности и потенциале.

Перспективы проблем: улучшение взаимодействия человека и искусственного интеллекта

Некоторые из лучших практик решения проблем AGI включают в себя:

• Сосредоточьтесь на возможностях или «что может сделать AGI», а не на процессах или «как он это делает».
• Сбалансируйте универсальность и производительность как важные компоненты AGI.
• Сосредоточьтесь на когнитивных/метакогнитивных задачах и способностях к обучению, а не на физических задачах/результатах.
• Измеряйте AGI по его потенциалу и возможностям.
• Сосредоточьтесь на экологической обоснованности, согласовав критерии с реальными задачами, которые ценят люди.
• Помните, что путь к AGI — это не единственная конечная точка, это итеративный процесс.

Добавляя к этим передовым практикам, мы с Адамом подчеркнули важность улучшения взаимодействия человека и искусственного интеллекта. Адам подчеркнул ценность изучения того, как и когда использовать эти модели, рассматривая их как мощные инструменты обучения, которые могут быстро обучить любой подобласти программирования, подчеркивая при этом важность понимания основ.

Точно так же я полагаю, что превращение каждого человека в опытного пользователя LLM может значительно повысить производительность и понимание в различных областях. LLM могут сделать сложную информацию доступной для всех, повышая производительность в различных областях. Но для этого требуется поэтапный, итеративный подход: начиная с ИИ-пилотов, помогающих людям, затем переходя к агентам под наблюдением человека и, в конечном итоге, достигая полностью автономных агентов в выполнении хорошо оцененных задач.

При этом решающее значение имеет дифференциация после обучения, включающая контролируемую точную настройку (SFT) и использование человеческого интеллекта для создания пользовательских моделей. Компании, которые смогут найти и подобрать тренеров, инженеров и других специалистов, ускорят свои возможности по тонкой настройке и индивидуальному проектированию. Сотрудничество с ведущими компаниями, такими как OpenAI и Anthropic, также имеет ключевое значение для применения этих моделей в различных отраслях.

Принципы ответственной разработки AGI

«Разработка ОИИ должна быть ответственной и этичной, обеспечивая безопасность и прозрачность, а также стимулируя инновации». – Адам Д'Анджело

Ответственное развитие AGI требует соблюдения нескольких основных принципов:

• Безопасность и защищенность: обеспечение надежности и устойчивости систем AGI к неправильному использованию, особенно по мере масштабирования моделей для адаптации к новым входным данным или алгоритмам.
• Прозрачность: реалистичное представление о возможностях, ограничениях AGI и том, «как он работает».
• Этические соображения: борьба с справедливостью, предвзятостью и тем, как AGI повлияет на занятость и другие социально-экономические факторы.
• Регулирование: работа с правительствами и другими организациями над разработкой механизмов, обеспечивающих баланс между прогрессом и общественной безопасностью.
• Бенчмаркинг: будущие тесты должны количественно оценивать поведение и возможности AGI с учетом этических соображений и уровней таксономии.

Вывод: сосредоточьтесь на пути к AGI, а не на одной конечной точке.

Путь к AGI сложен, но каждая остановка на этом пути важна. Понимая итеративные улучшения AGI, а также их последствия, люди и предприятия смогут ответственно принять эту развивающуюся технологию. В этом суть ответственной разработки AGI, где интерактивность реального мира помогает нам ориентироваться в этом новом рубеже.