Этика и технологии: нужен ли AI пилот у руля?

Резюме: Успехи в технологии разговорного ИИ требуют тщательного баланса интересов, которые способствуют инновациям, а также смягчают потенциальные вредные последствия.

Притяжение разговорного ИИ

Запуск ChatGPT-3 вызвал беспрецедентный интерес с более чем 100 миллионами активных пользователей в месяц.

Потребители и организации признают, насколько успехи в разговорном ИИ могут потенциально преобразовать практически каждый аспект нашей личной жизни и профессиональных взаимодействий. Применение ChatGPT-3 глубокого обучения генерирует убедительные разговоры с впечатляющими результатами. В недавних тестах ChatGPT-3 прошел экзамен на получение медицинской лицензии США и экзамен MBA в одном из самых престижных бизнес-школ.

Бизнес-преимущества разговорного ИИ огромны, и Microsoft инвестировал 10 миллиардов долларов в Open AI, чтобы ускорить коммерческие применения ChatGPT-3. Microsoft намерен «усилить» свои продукты с помощью разговорных возможностей ChatGPT-3.

Иррациональный энтузиазм

Но давайте сделаем глубокий вдох, прежде чем мы позволим такой трансформирующей технологии опередить нас. Несмотря на ее потенциальную полезность, ChatGPT-3 все еще находится на начальном этапе, и ее несовершенства очевидны. Наш энтузиазм может оказаться преждевременным. В отсутствие осмысленного анализа безудержное принятие разговорного ИИ без регулирующих рельсов и человеческого надзора может привести нас в антиутопический мир, предсказанный английским романистом Олдосом Хаксли. Слишком большая зависимость от технологий без понимания их социально-экономических последствий может иметь серьезные, хотя и непредвиденные последствия, такие как занятость, образование, инклюзивность и справедливость.

Ведь «когнитивные» возможности ChatGPT-3 основаны на пред существующих наборах данных, с встроенными предубеждениями, которые могут быть усилены, что может привести к множеству потенциальных вредных последствий. ChatGPT-3 имеет «темную сторону», которая должна быть причиной для беспокойства и толкнуть кнопку паузы, прежде чем дальнейшее распространение такой значимой технологии.

Риск или возможность?

Необходимо сбалансировать риски, связанные с применением разговорного ИИ, и его потенциальные возможности. Если разговорный ИИ будет развернут вдумчивым образом, с осмысленным регулированием ИИ, учитывающим подход, основанный на риске, с прочным надзором, то потенциальные выгоды от разговорного ИИ могут быть реализованы. Он должен быть развернут как партнерство, ориентированное на человека с приложениями разговорного ИИ, которые обогащают опыт работы. Как и все инновации, которые были до этого, ИИ имеет потенциал создать необходимость в новых навыках и сделать определенные работы более наградными.

Какова роль законодателя?

Демократизация технологий ИИ подразумевает, что государственные органы власти должны сыграть активную роль в регулировании их использования. Страхи, связанные с инновациями, являются реальными. Несмотря на свою мощь, искусственный интеллект остается зависим от людей, будь то его использование или регулирование. Должен быть действительно пилот у руля, мы просто не знаем точно, какой курс он собирается пройти. Растет импульс для комплексного регулирования ИИ, наиболее заметно, проект закона ЕС об искусственном интеллекте. С потенциальным повсеместным принятием разговорного ИИ, такого как ChatGPT-3, импульс для более строгого регулирования и управления растет, чтобы обеспечить, что будут учреждены меры, которые запретят конкретное применение разговорного ИИ, которое считается нарушающим основные права человека.