Этика и технологии: нужен ли пилот у руля AI?

Резюме: Прогресс в технологии разговорного ИИ требует тщательного баланса интересов, которые способствуют инновациям, а также смягчают потенциальные вредные последствия.

Обаяние разговорного ИИ

Запуск ChatGPT-3 вызвал беспрецедентный интерес, с более чем 100 миллионами активных пользователей в месяц .

Потребители и организации признают, как прогресс в разговорном ИИ может потенциально преобразовать практически каждый аспект нашей личной жизни и профессиональных взаимодействий. Применение глубокого обучения в ChatGPT-3 генерирует убедительные разговоры, подобные человеческим, с впечатляющими результатами. В недавних тестах ChatGPT-3 прошел экзамен на получение медицинской лицензии США и экзамен MBA в одном из самых престижных бизнес-школ.

Бизнес-преимущества разговорного ИИ огромны, и Microsoft инвестировал 10 миллиардов долларов в Open AI, чтобы ускорить коммерческое применение ChatGPT-3. Microsoft намерен «усилить» свои продукты с помощью разговорных возможностей ChatGPT-3.

Иррациональный энтузиазм

Но давайте сделаем глубокий вдох, прежде чем такая трансформационная технология опередит нас. Несмотря на ее потенциальную полезность, ChatGPT-3 все еще находится на начальном этапе и имеет много несовершенств. Наш энтузиазм может оказаться преждевременным. Без значимого анализа неограниченное применение разговорного ИИ без регулирующих рамок и человеческого надзора может привести нас в антиутопический мир, предсказанный английским романистом Олдосом Хаксли. Слишком большая зависимость от технологий без понимания их социально-экономических последствий может иметь серьезные, хотя и непреднамеренные последствия, такие как занятость, образование, инклюзивность и справедливость.

Ведь ChatGPT-3 – это шаг вперед, но его «когнитивные» возможности основаны на пред существующих наборах данных, с встроенными предубеждениями, которые могут быть усилены, что может привести к множеству потенциальных вредных последствий. ChatGPT-3 имеет «темную сторону», которая должна быть причиной беспокойства и заставить нас нажать кнопку паузы, прежде чем дальнейшее распространение такой значимой технологии.

Риск или возможность?

Необходимо сбалансировать риски, связанные с применением разговорного ИИ, и его потенциальные возможности. Если разговорный ИИ будет применен вдумчивым образом, с осмысленным регулированием ИИ, учитывающим подход, основанный на риске, с прочным надзором, то потенциальные выгоды от разговорного ИИ могут быть реализованы. Он должен быть применен как партнерство, ориентированное на человека, с приложениями разговорного ИИ, которые обогащают опыт работы. Как и все инновации, которые были до него, ИИ имеет потенциал создать необходимость в новых навыках и сделать определенные работы более приятными.

Какова роль законодателя?

Демократизация технологий ИИ означает, что государственные органы должны сыграть активную роль в регулировании их использования. Страхи, связанные с инновациями, реальны. Несмотря на его возможности, искусственный интеллект остается зависим от человека, будь то его использование или регулирование. Должен быть пилот у руля, мы просто не знаем точно, какой курс он выберет. Есть растущая тенденция к комплексному регулированию ИИ, особенно проект закона ЕС об искусственном интеллекте. С потенциальным повсеместным внедрением разговорного ИИ, такого как ChatGPT-3, растет импульс для более строгого регулирования и управления, чтобы обеспечить, что будут приняты меры, которые запретят конкретное применение разговорного ИИ, которое считается нарушением фундаментальных прав человека.