Навигация по пути к искусственному общему интеллекту (ИОИ) вместе: сбалансированный подход

По мере того, как искусственный общий интеллект (ИОИ) быстро развивается, разговор смещается от философских дебатов к практической значимости, с огромными возможностями трансформации глобальных бизнесов и человеческого потенциала.

Серия мероприятий AGI Icons от Turing объединяет инноваторов в области ИИ, чтобы обсудить практические и ответственные достижения в области решений ИОИ. 24 июля Turing провела свое второе мероприятие AGI Icons в SHACK15, эксклюзивном хабе для предпринимателей и технологических инноваторов в Сан-Франциско. Модератором мероприятия была Анита Рамасвами, финансовый колумнист в The Information, и я обсудил с генеральным директором Quora Адамом Д’Анджело пути к ИОИ и поделился идеями о сроках разработки, реальных приложениях и принципах ответственного развертывания.

Путь от ИИ к ИОИ

“Полярная звезда”, которая движет исследованиями в области ИИ, – это стремление к человеческому уровню “интеллекта”. То, что отличает ИОИ от стандартного ИИ, – это его прогресс за пределы узкой функциональности в сторону большей общности (ширины) и производительности (глубины), даже превышающей человеческие возможности.

Это “путь к ИОИ”, где ИИ прогрессирует к более автономным системам, улучшенному рассуждению, расширенным возможностям и улучшенной функциональности. Эти прогрессии разбиты на пять таксономических уровней:

• Уровень 0: Нет ИИ – Простые инструменты, такие как калькуляторы
• Уровень 1: Возникающий ИОИ – Текущие модели обработки естественного языка, такие как ChatGPT
• Уровень 2: Компетентный ИОИ – Системы ИИ, которые соответствуют квалифицированным взрослым на конкретных задачах
• Уровень 3: Экспертный ИОИ – Системы ИИ на уровне 90-го процентиля квалифицированных взрослых
• Уровень 4: Виртуозный ИОИ – Системы ИИ на уровне 99-го процентиля
• Уровень 5: Сверхчеловеческий ИОИ – Системы ИИ, которые превосходят всех людей

Источник

Во время нашего обсуждения Адам определил концепцию ИОИ как “программное обеспечение, которое может делать все, что может делать человек”. Он представляет себе будущее, где ИИ улучшает себя, в конечном итоге взяв на себя сложные задачи, которые сейчас выполняют исследователи в области машинного обучения.

Перейдя к следующему шагу, я сравнил свои взгляды на ИОИ с “искусственным мозгом”, способным выполнять различные задачи, такие как “машинный перевод, сложные запросы и кодирование”. Это отличие между ИОИ и более предсказуемым ИИ и узкими формами машинного обучения, которые предшествовали ему. Это похоже на эмерджентное поведение.

Реалистичные сроки разработки на пути к ИОИ

Как и на дороге, главный вопрос об ИОИ – “Мы уже пришли?” Короткий ответ – нет, но по мере того, как исследования в области ИИ ускоряются, правильный вопрос – “Как мы можем сбалансировать амбиции ИОИ с реалистичными ожиданиями?”

Адам подчеркнул, что повышенная автоматизация ИОИ изменит человеческие роли, а не исключит их, что приведет к более быстрому экономическому росту и более эффективной производительности. “По мере того, как эта технология становится более мощной, мы придем к моменту, когда 90% того, что люди делают сегодня, будет автоматизировано, но все перейдут в другие области.”

Сейчас большая часть мировой экономики ограничена количеством людей, доступных для работы. Как только мы достигнем ИОИ, мы сможем расти экономике с гораздо более быстрой скоростью, чем это возможно сегодня.

Мы не можем дать окончательный срок, когда будет реализован настоящий ИОИ, но Адам и я привели несколько примеров достижений в области ИИ, которые открывают путь для будущего прогресса ИОИ. Например, эксперименты Turing с инструментами для разработчиков ИИ показали увеличение производительности разработчиков на 33%, что намекает на еще больший потенциал.

Реальные приложения и эффекты

Одним из наиболее перспективных применений ИОИ является область разработки программного обеспечения. Модели обработки естественного языка (МОЯ), предшественник ИОИ, уже используются для улучшения разработки программного обеспечения и повышения качества кода. Я рассматриваю эту эпоху ИИ как более близкую к биологии, чем к физике, где вся работа с знаниями будет улучшена. Будет так много больше возможностей для повышения производительности для человечества.

Моя точка зрения основана на опыте, где я сталкивался с 10-кратным увеличением личной производительности при использовании МОЯ и инструментов для разработчиков ИИ. Мы также используем ИИ в Turing для оценки технических специалистов и подбора правильных программистов и экспертов высшего уровня к правильным работам.

Что я вижу в области обучения МОЯ, например, заключается в том, что тренеры используют эти модели для повышения производительности разработчиков и ускорения сроков проектов. Автоматизируя рутинные задачи кодирования и предоставляя интеллектуальные предложения кода, МОЯ освобождают разработчиков для сосредоточения на более стратегических и творческих аспектах своей работы.

Адам заключил, “МОЯ не напишут весь код, но понимание основ программирования остается важным. Калькуляторы не исключили необходимость изучения арифметики.” Он добавил, “Разработчики становятся более ценными, когда используют эти модели. Наличие МОЯ является положительным для работы разработчиков, и будет много выгод для разработчиков.”

Мы вступаем в золотой век разработки программного обеспечения, где один программист может быть в 10 раз более продуктивным, создавать больше и приносить пользу миру.

Технические и управленческие проблемы

Несмотря на перспективный потенциал ИОИ, необходимо решить проблемы. Необходимы надежные процессы оценки и нормативные рамки для балансирования инноваций ИОИ с общественной безопасностью.

Адам подчеркнул необходимость тщательного тестирования и sandboxing для ограничения худших сценариев. “Вы хотите иметь какой-то надежный процесс оценки… и получить распределение, которое вы тестируете, как можно ближе к реальному использованию.”

И я согласен. Бутылочным горлышком для прогресса ИОИ сейчас является человеческий интеллект, а не вычислительная мощность или данные. Человеческая экспертиза имеет решающее значение для тонкой настройки и настройки моделей ИИ, поэтому Turing фокусируется на поиске и подборе лучших технических специалистов для балансировки моделей с человеческим интеллектом.

Мы должны решить проблемы ИОИ, сосредоточившись на возможностях над процессами, общности и производительности, а также на потенциале.

Мнения о проблемах: улучшение взаимодействия между человеком и ИОИ

Некоторые из лучших практик для решения проблем ИОИ включают:

• Сосредоточьтесь на возможностях или “что может сделать ИОИ” rather чем на процессах или “как он это делает”.
• Балансируйте общность и производительность как важные компоненты ИОИ.
• Сосредоточьтесь на когнитивных/метакогнитивных задачах и возможностях обучения над физическими задачами/выходами.
• Измерьте ИОИ его потенциалом и возможностями.
• Сосредоточьтесь на экологической значимости, выравнивая эталоны с реальными задачами, которые люди ценят.
• Помните, что путь к ИОИ не является единой точкой, это итеративный процесс.

Добавляя к этим лучшим практикам, Адам и я подчеркнули важность улучшения взаимодействия между человеком и ИОИ. Адам подчеркнул ценность обучения тому, как и когда использовать эти модели, рассматривая их как мощные инструменты обучения, которые могут быстро преподавать любую подобласть программирования, подчеркивая при этом важность понимания основ.

Аналогично, я предлагаю, что сделать каждого человека мощным пользователем МОЯ может существенно повысить производительность и понимание в различных областях. МОЯ могут сделать сложную информацию доступной для всех, повышая производительность в различных областях. Но для этого требуется фазовый, итеративный подход: начиная с ИИ-копилотов, помогающих людям, затем переходя к агентам с человеческим надзором и, наконец, достигая полностью автономных агентов в хорошо оцененных задачах.

С этим пост-тренировочная дифференциация имеет решающее значение, включающая контролируемую тонкую настройку (КTN) и использование человеческого интеллекта для создания пользовательских моделей. Компании, которые могут найти и подобрать тренеров, инженеров и других, ускорят свою тонкую настройку и возможности настройки. Сотрудничество с ведущими компаниями, такими как OpenAI и Anthropic, также является ключом к применению этих моделей в различных отраслях.

Принципы ответственного развития ИОИ

“Разработка ИОИ должна быть ответственной и этической, обеспечивая безопасность и прозрачность, а также содействуя инновациям.” – Адам Д’Анджело

Ответственное развитие ИОИ требует соблюдения нескольких основных принципов:

• Безопасность и безопасность: Обеспечение того, что системы ИОИ надежны и устойчивы к злоупотреблению, особенно по мере того, как модели масштабируются для новых входных данных или алгоритмов.
• Прозрачность: Быть реалистичным о возможностях, ограничениях и “том, как это работает” ИОИ.
• Этические соображения: Решение проблем справедливости, предвзятости и того, как ИОИ повлияет на занятость и другие социально-экономические факторы.
• Регулирование: Работа с правительствами и другими организациями для разработки рамок, балансирующих прогресс с общественной безопасностью.
• Эталоны: Будущие эталоны должны количественно оценивать поведение и возможности ИОИ по отношению к этическим соображениям и уровням таксономии.

Заключение: Сосредоточьтесь на пути к ИОИ, а не на единой точке

Путь к ИОИ сложен, но каждый этап на этом пути важен для путешествия. Понимая итеративные улучшения ИОИ, а также его последствия, люди и бизнес смогут ответственно принять эту развивающуюся технологию. Это является сутью ответственного развития ИОИ, где реальное взаимодействие информирует, как мы ориентируемся в этом новом фронтире.