Навигация по дороге к искусственному общему интеллекту (AGI) вместе: сбалансированный подход

Поскольку искусственный общий интеллект (AGI) быстро развивается, разговор смещается от философских дебатов к практической значимости, с огромными возможностями трансформации глобальных бизнесов и человеческого потенциала.

Серия мероприятий AGI Icons от Turing объединяет инноваторов в области ИИ, чтобы обсудить практические и ответственные достижения решений AGI. 24 июля Turing провел наш второе мероприятие AGI Icons в SHACK15, эксклюзивном хабе для предпринимателей и технологических инноваторов в Сан-Франциско. Модератором была Anita Ramaswamy, финансовый колумнист в The Information, я сидел с CEO Quora, Adam D’Angelo, чтобы обсудить дорогу к AGI и поделиться идеями о сроках разработки, реальных приложениях и принципах ответственного развертывания.

Дорога от ИИ к AGI

“Полярная звезда”, которая движет исследованиями ИИ, – это стремление к человеческому уровню “интеллекта”. То, что отделяет AGI от стандартного ИИ, – это его прогресс за пределы узкой функциональности к большей общности (широте) и производительности (глубине), даже превосходящей человеческие возможности.

Это “дорога к AGI”, где ИИ прогрессирует к более автономным системам, лучшему рассуждению, повышенным возможностям и улучшенной функциональности. Эти прогрессии разбиты на пять таксономических уровней:

• Уровень 0: Нет ИИ – простые инструменты, такие как калькуляторы
• Уровень 1: Возникающий AGI – текущие LLM, такие как ChatGPT
• Уровень 2: Компетентный AGI – системы ИИ, которые соответствуют квалифицированным взрослым на конкретных задачах
• Уровень 3: Экспертный AGI – системы ИИ на 90-м процентиле квалифицированных взрослых
• Уровень 4: Виртуозный AGI – системы ИИ на 99-м процентиле
• Уровень 5: Сверхчеловеческий AGI – системы ИИ, которые превосходят всех людей

Source

Во время нашего обсуждения Adam определил концепцию AGI как “программное обеспечение, которое может делать все, что может делать человек”. Он представляет себе будущее, где ИИ улучшает себя, в конечном итоге взяв на себя сложные человеческие задачи, которые сейчас выполняют исследователи машинного обучения.

Перейдя на следующий уровень, я сравнил свои взгляды на AGI с “искусственным мозгом”, способным выполнять различные задачи, такие как “машинный перевод, сложные запросы и кодирование”. Это отличие между AGI и более предсказуемым ИИ и узкими формами МО, которые были до этого. Это кажется эмерджентным поведением.

Реалистичные сроки разработки на дороге к AGI

Как и на дорожной поездке, главный вопрос об AGI – “Мы уже приехали?” Короткий ответ – нет, но по мере ускорения исследований ИИ правильный вопрос – “Как мы можем сбалансировать амбиции AGI с реалистичными ожиданиями?”

Adam подчеркнул, что увеличение автоматизации от AGI приведет к сдвигу человеческих ролей, а не к их устранению, что приведет к более быстрому экономическому росту и более эффективной производительности. “По мере того, как эта технология становится более мощной, мы придем к точке, где 90% того, что люди делают сегодня, будет автоматизировано, но все перейдут на другие вещи”.

Сейчас большая часть мировой экономики ограничена количеством людей, доступных для работы. Как только мы достигнем AGI, мы сможем расти экономике с гораздо более быстрой скоростью, чем это возможно сегодня.

Мы не можем дать определенный срок, когда истинный AGI будет реализован, но Adam и я упомянули несколько случаев продвижения ИИ, которые открывают путь для будущих прогрессий AGI. Например, эксперименты Turing с инструментами разработчика ИИ показали увеличение производительности разработчиков на 33%, намекая на еще больший потенциал.

Реальные приложения и эффекты

Одним из наиболее перспективных приложений AGI является область разработки программного обеспечения. Большие языковые модели (LLM), предшественник AGI, уже используются для улучшения разработки программного обеспечения и повышения качества кода. Я вижу эту эпоху ИИ ближе к биологии, чем к физике, где все виды знаний будут улучшены. Будет так много больше производительности, разблокированной для и от человечества.

Моя точка зрения исходит из опыта, где я сталкивался с 10-кратным увеличением личной производительности при использовании LLM и инструментов разработчика ИИ. Мы также используем ИИ в Turing для оценки технических талантов и подбора правильных программистов и экспертов PhD-уровня к правильным работам.

Что я вижу в области обучения LLM, например, так это то, что тренеры используют эти модели для улучшения производительности разработчиков и ускорения сроков проектов. Автоматизируя рутинные задачи кодирования и предоставляя интеллектуальные предложения кода, LLM освобождают разработчиков, чтобы они могли сосредоточиться на более стратегических и творческих аспектах своей работы.

Adam подытожил, “LLM не напишут весь код, но понимание основ программирования остается крайне важным. Калькуляторы не исключили необходимость изучать арифметику”. Он добавил, “Разработчики становятся более ценными, когда используют эти модели. Наличие LLM – это положительный момент для работы разработчиков, и будет много выгод для разработчиков”.

Мы вступаем в золотой век разработки программного обеспечения, где один программист может быть в 10 раз более продуктивным, создавать больше и приносить пользу миру.

Технические и управленческие проблемы

Несмотря на перспективный потенциал AGI, проблемы необходимо решать. Необходимы надежные процессы оценки и нормативные рамки, чтобы сбалансировать инновации AGI с общественной безопасностью.

Adam подчеркнул необходимость тщательного тестирования и sandboxing, чтобы ограничить худшие сценарии. “Вы хотите иметь какой-то надежный процесс оценки… и получить распределение, которое вы тестируете, как можно ближе к реальному использованию”.

И я согласен. Бутылочное горлышко прогресса AGI сейчас – человеческий интеллект, а не вычислительная мощность или данные. Человеческая экспертиза крайне важна для тонкой настройки и настройки моделей ИИ, поэтому Turing фокусируется на поиске и подборе лучших технических специалистов, чтобы сбалансировать модели с человеческим интеллектом.

Мы должны решать проблемы AGI напрямую, фокусируясь на возможностях, а не на процессах, общности и производительности, и потенциале.

Точки зрения на проблемы: улучшение взаимодействия между человеком и AGI

Некоторые из лучших практик для решения проблем AGI включают:

• Фокус на возможностях или “что может сделать AGI”, а не на процессах или “как это делается”.
• Баланс общности и производительности как необходимых компонентов AGI.
• Фокус на когнитивных/метакогнитивных задачах и способностях к обучению над физическими задачами/выходами.
• Измерение AGI его потенциалом и возможностями.
• Фокус на экологической валидности, выравнивая эталоны с реальными задачами, которые люди ценят.
• Помните, что путь к AGI не является единой точкой, это итеративный процесс.

Добавляя к этим лучшим практикам, Adam и я подчеркнули важность улучшения взаимодействия между человеком и AGI. Adam подчеркнул ценность обучения тому, как и когда использовать эти модели, рассматривая их как мощные инструменты обучения, которые могут быстро преподавать любую поддомену программирования, подчеркивая важность понимания основ.

Аналогично, я предлагаю, что сделать каждого человека мощным пользователем LLM может существенно улучшить производительность и понимание в различных областях. LLM могут сделать сложную информацию доступной для всех, повышая производительность в различных областях. Но это требует фазового, итеративного подхода: начиная с ИИ-копилотов, помогающих людям, затем переходя к агентам с человеческим надзором и, наконец, достигая полностью автономных агентов в хорошо оцененных задачах.

С этим пост-тренировочная дифференциация имеет решающее значение, включающая контролируемую тонкую настройку (SFT) и использование человеческого интеллекта для построения пользовательских моделей. Компании, которые могут найти и подобрать тренеров, инженеров и других, ускорят свои возможности тонкой настройки и настройки. Сотрудничество с ведущими компаниями, такими как OpenAI и Anthropic, также является ключом к применению этих моделей в различных отраслях.

Принципы ответственного развития AGI

“Разработка AGI должна быть ответственной и этической, обеспечивая безопасность и прозрачность, а также содействуя инновациям.” – Adam D’Angelo

Ответственное развитие AGI требует соблюдения нескольких основных принципов:

• Безопасность и безопасность: Обеспечение того, что системы AGI надежны и устойчивы к неправильному использованию, особенно по мере масштабирования моделей для размещения новых входных данных или алгоритмов.
• Прозрачность: Быть реалистичным о возможностях AGI, ограничениях и “как это работает”.
• Этические соображения: Решение проблем справедливости, предвзятости и того, как AGI повлияет на занятость и другие социально-экономические факторы.
• Регулирование: Работа с правительствами и другими организациями для разработки рамок, балансирующих прогресс с общественной безопасностью.
• Эталоны: Будущие эталоны должны количественно оценить поведение и возможности AGI по отношению к этическим соображениям и уровням таксономии.

Заключение: Сосредоточьтесь на пути к AGI, а не на единой точке

Дорога к AGI сложна, но каждая остановка на этом пути важна для путешествия. Понимая итеративные улучшения AGI, а также его последствия, люди и бизнес смогут ответственно принять эту развивающуюся технологию. Это суть ответственного развития AGI, где реальное взаимодействие информирует, как мы навигируем в этом новом фронтире.