Số lượng công ty công nghệ ngày càng tăng bị hủy bỏ vì rửa AI

Vào năm 2024, 15 công ty công nghệ AI đã bị các cơ quan quản lý tấn công vì phóng đại khả năng của sản phẩm, và con số này đã tăng hơn gấp đôi so với năm 2023. Các vụ việc liên quan đến AI đang tăng lên và các công ty công nghệ có thể bị ảnh hưởng nếu họ không hiểu rõ về các quy định mới và cách tránh chúng.

Cái gì sai với tiếp thị AI ngày nay?

Trong khi nhiều người đã quen với cụm từ “greenwashing”, thì chỉ trong năm qua, một hình thức mới đã xuất hiện từ sự cường điệu xung quanh trí tuệ nhân tạo, và nó được gọi là “rửa AI”. Theo BBC, hiện tượng rửa AI có thể được định nghĩa là tuyên bố sử dụng AI khi thực tế là một phương pháp tính toán ít phức tạp hơn được sử dụng. Họ giải thích rằng rửa AI cũng có thể xảy ra khi các công ty phóng đại quá mức về khả năng hoạt động của AI hoặc khi một công ty kết hợp các sản phẩm hoặc khả năng lại với nhau. Ví dụ, khi “các công ty chỉ đơn giản là gắn một chatbot AI vào phần mềm hoạt động không phải AI hiện có của họ”.

Các tuyên bố AI phóng đại là nguy hiểm cho người dùng và các bên liên quan khác. Ba mối quan ngại rõ ràng về rửa AI xuất hiện trong tâm trí:

• Người dùng trả tiền cho thứ họ không nhận được
• Người dùng mong đợi một kết quả không thể đạt được
• Các bên liên quan của công ty không biết liệu họ có đầu tư vào một doanh nghiệp thực sự đổi mới với AI hay không

Rửa AI là một vấn đề ngày càng tăng khi các công ty công nghệ cạnh tranh để giành thị phần lớn hơn. Đến 40% công ty tự mô tả mình là một công ty khởi nghiệp AI vào năm 2019 đã không có công nghệ trí tuệ nhân tạo nào. Áp lực để cung cấp công nghệ tiên tiến thậm chí còn lớn hơn bây giờ so với năm năm trước.

Cái gì đang thúc đẩy rửa AI?

Các chuyên gia có một số lý thuyết về những gì đang đứng sau hiện tượng ngày càng tăng này. Douglas Dick, người đứng đầu rủi ro công nghệ mới nổi tại KPMG ở Vương quốc Anh, nói với BBC rằng đó là sự thiếu định nghĩa AI và sự mơ hồ làm cho rửa AI có thể xảy ra.

Các chuyên gia tại Berkely tin rằng sự trao đổi của văn hóa tổ chức là nguyên nhân gây ra rửa AI, và các lý do cốt lõi cho hiện tượng này bao gồm:

• Thiếu kiến thức kỹ thuật AI trong lãnh đạo cấp cao
• Áp lực cho sự đổi mới liên tục
• Ngắn hạn và cường điệu
• Sợ bỏ lỡ (FOMO)

Rửa AI cũng có thể được thúc đẩy bởi tài trợ. Các nhà đầu tư muốn thấy sự đổi mới nhất quán và vượt qua các đối thủ. Ngay cả khi các thương hiệu chưa phát triển đầy đủ khả năng AI, họ có thể thu hút sự chú ý của các nhà đầu tư với các công cụ tự động hóa nửa vời để kiếm thêm vốn.

Với thị trường AI toàn cầu dự kiến sẽ đạt khoảng 250 tỷ USD vào cuối năm 2025, dễ hiểu tại sao xu hướng đang ở trong tình trạng đầy đủ, và các công ty khởi nghiệp đang nhanh chóng gắn nhãn AI vào bất cứ thứ gì. Thật không may, các cơ quan quản lý đã chú ý.

Các công ty công nghệ AI bị buộc tội rửa AI

Các công ty tuyên bố sử dụng trí tuệ nhân tạo thường chỉ sử dụng các kỹ thuật tính toán và tự động hóa tiên tiến. Trừ khi cơ sở hạ tầng khoa học dữ liệu AI thực sự được đặt ra với các thuật toán học máy, mạng nơ-ron, xử lý ngôn ngữ tự nhiên, nhận dạng hình ảnh, hoặc một số hình thức Gen AI được phát挥, công ty có thể chỉ đang tạo ra khói và gương với các tuyên bố AI của họ.

Một công ty công nghệ AI HR gọi là Joonko đã bị SEC đóng cửa vì các hành vi gian dối.

Học hỏi từ Joonko

Joonko tuyên bố rằng nó có thể giúp các nhà tuyển dụng xác định các ứng viên gần như được tuyển dụng để các nhà tuyển dụng có thể tận dụng các nhóm này. Ý tưởng là điều này sẽ tạo ra các ứng viên đa dạng hơn để đưa trước các nhà tuyển dụng và có cơ hội được tuyển dụng cao hơn. Joonko đã thành công trong việc tiếp thị AI của mình đến mức Eubanks đã viết về Joonko trong cuốn sách đầu tiên của mình, và công ty đã huy động được 27 triệu đô la tiền vốn đầu tư mạo hiểm giữa năm 2021 và 2022.

Khi SEC buộc tội cựu CEO của Joonko về tội rửa AI gian lận chứng khoán, đó là vì anh ta đã đại diện sai số lượng và tên của khách hàng. Anh ta tuyên bố rằng Joonka bán cho các thẻ tín dụng toàn cầu, du lịch và thương hiệu xa xỉ, và tạo ra các tuyên bố ngân hàng và đơn đặt hàng cho các nhà đầu tư. CEO đã nhận các cáo buộc hình sự ngoài các cáo buộc của SEC chống lại công ty.

Học hỏi từ Codeway

Vào năm 2023, ứng dụng Codeway đã bị buộc tội về một quảng cáo lừa đảo trên Instagram tuyên bố rằng AI của họ có thể sửa ảnh mờ. Quảng cáo đọc “Cải thiện hình ảnh của bạn với AI” và khi bị một người khiếu nại thách thức, công ty không thể chứng minh cách ứng dụng của họ có thể sửa một hình ảnh mờ một mình mà không có sự giúp đỡ của các quy trình nâng cao ảnh kỹ thuật số khác. Cơ quan Tiêu chuẩn Quảng cáo (ASA) giữ nguyên khiếu nại và cấm công ty chạy quảng cáo đó hoặc bất kỳ quảng cáo nào khác như vậy.

Các ví dụ khác

Tại Hoa Kỳ, FTC và SEC gần đây đã thực hiện các hành động thực thi sau:

• Nhiều kế hoạch kinh doanh đã bị ngừng lại sau khi tuyên bố người dùng có thể sử dụng AI để kiếm tiền với các cửa hàng trực tuyến
• Một yêu cầu về hơn 190.000 đô la đã được thực hiện cho các dịch vụ luật sư robot không hiệu quả
• Một công ty gọi là Rytr LLC đã tuyên bố sai rằng nó có thể tạo ra nội dung được tạo bởi AI
• Một hành động giải quyết chống lại IntelliVision Technologies vì các tuyên bố sai về nhận dạng khuôn mặt AI của họ
• Delphia Inc. và Global Predictions Inc. đã bị buộc tội làm sai các tuyên bố về AI trên trang web và tài khoản mạng xã hội của họ

Quy định mới nổi

Sự phát triển của công nghệ AI và rửa AI đã thu hút sự chú ý của các cơ quan quản lý trên toàn thế giới. Tại Vương quốc Anh, ASA đã thiết lập một tiền lệ bằng cách khởi kiện các quảng cáo liên quan đến AI không có căn cứ.

Tại Canada, các cơ quan quản lý đang nhắm vào các tuyên bố không có căn cứ về AI cũng như các tài liệu tiếp thị bị hiểu lầm hoặc quảng cáo quá mức công nghệ AI. Các quản lý chứng khoán Canada đã phát hành một thông báo nhân viên vào ngày 7 tháng 11 năm 2024 rằng chia sẻ một số ví dụ về những gì họ coi là rửa AI:

• Một công ty AI tuyên bố rằng nhà phát hành của họ đang phá vỡ ngành của họ với công nghệ AI tiên tiến và hiện đại nhất có sẵn
• Một công ty AI tuyên bố rằng họ là nhà lãnh đạo toàn cầu trong loại AI của họ
• Một công ty AI phóng đại quá mức việc sử dụng hoặc tầm quan trọng của nó đối với ngành

Tại Hoa Kỳ, có các quy định cụ thể của tiểu bang, như kiểm toán thiên vị AI bắt buộc của Thành phố New York mà mọi công ty công nghệ AI hoạt động ở đó đều phải có. Tuy nhiên, không có quy định liên bang toàn diện hạn chế sự phát triển hoặc sử dụng AI. Vào tháng 12 năm 2024, Quốc hội Hoa Kỳ đang xem xét hơn 120 dự luật AI khác nhau. Những quy định này sẽ bao gồm mọi thứ từ quyền truy cập của AI vào vũ khí hạt nhân đến bản quyền, nhưng chúng sẽ dựa trên các biện pháp tự nguyện chứ không phải các giao thức nghiêm ngặt có thể làm chậm tiến bộ công nghệ. Trong khi các dự luật này đang được tranh luận, có một sự pha trộn của các luật liên bang Hoa Kỳ trong các bộ phận cụ thể, chẳng hạn như Cục Hàng không Liên bang cho biết AI trong hàng không phải được xem xét.

Đừng là một kẻ giả mạo AI

Khi các cơ quan quản lý tiếp tục thực thi các hành động khác nhau chống lại những kẻ rửa AI, các công ty công nghệ nên chú ý. Bất kỳ công ty nào tuyên bố tạo ra công nghệ AI thực sự nên có thể chứng minh các tuyên bố của họ. Các nhóm tiếp thị của họ nên tránh phóng đại quá mức khả năng của sản phẩm AI của công ty, cũng như kết quả, khách hàng và doanh thu. Bất kỳ công ty nào không chắc chắn về công nghệ hoặc tiếp thị của mình nên xem lại các luật mới xuất hiện ở địa phương và trong các thị trường họ bán hàng. Người tiêu dùng hoặc các công ty đang cân nhắc mua công nghệ AI nên xem xét kỹ sản phẩm trước khi mua. Với các vụ việc rửa AI năm 2024 vẫn đang ở giai đoạn đầu của quá trình tố tụng, câu chuyện vẫn đang diễn ra, nhưng một điều chắc chắn là bạn không muốn công ty của mình trở thành một phần của nó.