Искусственный интеллект и борьба с технофобией

Когда речь идет об Искусственном интеллекте и больших языковых моделях, таких как ChatGPT, энтузиазм по поводу ИИ смешивается с технофобией. Это естественно для широкой общественности: они любят новые интересные вещи, но боятся неизвестного. Новое в том, что несколько известных ученых сами стали техноскептиками, если не технофобами. Примером этого может служить случай ученых и промышленников, требующих шестимесячного моратория на исследования ИИ, или скептицизм ведущего ученого-исследователя ИИ профессора А. Хинтона.

Конечно, каждый имеет право сомневаться в текущем состоянии дел с ИИ:

• Никто не знает, почему большие языковые модели работают так хорошо и есть ли у них предел.
• Многие опасности, которые создают «бомбы ИИ» злоумышленники, особенно если государства остаются пассивными наблюдателями в плане регулирования.

Это обоснованные опасения, которые подогревают страх перед неизвестным, даже среди известных ученых. Ведь они тоже люди.

Однако, можно ли остановить исследования ИИ, даже временно? На мой взгляд, нет, поскольку ИИ является ответом человечества на глобальное общество и физический мир все возрастающей сложности. По мере того, как физическая и социальная сложность увеличиваются, процессы становятся очень глубокими и, кажется, неумолимыми, ИИ и гражданская морфоза являются нашей единственной надеждой на плавный переход от текущего информационного общества к обществу знаний. В противном случае, мы можем столкнуться с катастрофическим социальным взрывом.

Решение заключается в том, чтобы углубить наше понимание достижений ИИ, ускорить его разработку, регулировать его использование для максимизации его положительного воздействия, минимизируя при этом уже очевидные и другие скрытые негативные эффекты. Исследования ИИ могут и должны стать другими: более открытыми, демократичными, научными и этическими. Вот список предложенных пунктов для этого:

• Первое слово о важных вопросах исследований ИИ, имеющих далеко идущее социальное воздействие, должно быть делегировано избранным парламентам и правительствам, а не корпорациям или отдельным ученым.
• Все усилия должны быть направлены на облегчение изучения положительных аспектов ИИ в социальном и финансовом прогрессе и на минимизацию его негативных аспектов.
• Положительное воздействие систем ИИ может намного превышать их негативные аспекты, если будут приняты надлежащие регулирующие меры. Технофобия не оправдана и не является решением.
• На мой взгляд, самой большой угрозой в настоящее время является то, что такие системы ИИ могут удаленно обманывать многих обычных людей, имеющих мало (или среднее) образование и/или мало исследовательских возможностей. Это может быть чрезвычайно опасно для демократии и любого вида социально-экономического прогресса.
• В ближайшем будущем мы должны противостоять большой угрозе, исходящей от использования ИИ в незаконных hoạtностях (жульничество на университетских экзаменах является довольно безобидным использованием в пространстве связанных возможностей).
• Их влияние на труд и рынки будет очень положительным, в среднесрочной и долгосрочной перспективе.
• По моему мнению, системы ИИ должны: а) быть зарегистрированными в «реестре систем ИИ» по международному праву, и б) уведомлять своих пользователей, что они взаимодействуют с системой ИИ или используют результаты системы ИИ.
• Поскольку системы ИИ имеют огромное социальное воздействие, и для максимизации пользы и социально-экономического прогресса, передовые ключевые технологии систем ИИ должны стать открытыми.
• Данные, связанные с ИИ, должны быть (по крайней мере частично) демократизированы, также для максимизации пользы и социально-экономического прогресса.
• Необходимо предусмотреть надлежащие финансовые компенсационные схемы для чемпионов технологий ИИ, чтобы компенсировать любые потери прибыли из-за вышеуказанной открытости и обеспечить сильные будущие инвестиции в исследования и разработки ИИ (например, через патентование технологий, обязательные лицензионные схемы).
• Баланс исследований ИИ между академией и промышленностью должен быть пересмотрен для максимизации результатов исследований, сохраняя при этом конкурентоспособность и вознаграждая риски, принятые на себя в исследованиях и разработках.
• Практики образования должны быть пересмотрены на всех уровнях образования, чтобы максимизировать пользу от технологий ИИ, создавая новое поколение творческих и адаптивных граждан и (ИИ) ученых.
• Необходимо создать и укрепить надлежащие механизмы регулирования, надзора и финансирования ИИ, чтобы обеспечить вышесказанное.

Несколько таких пунктов рассматриваются подробно в моей недавней 4-томной книге «Искусственный интеллект. Наука и общество», особенно в томах А (переписанном в мае 2023 года для освещения ИИ и искусственного общего интеллекта) и С.

Ссылки на книги:

Искусственный интеллект. Наука и общество. Часть А: Введение в науку об ИИ и информационных технологиях

Искусственный интеллект. Наука и общество. Часть С: Наука об ИИ и общество