Sự thiên vị của con người làm suy yếu các giải pháp được kích hoạt bởi AI

Vào tháng 9 năm ngoái, các nhà lãnh đạo thế giới như Elon Musk, Mark Zuckerberg và Sam Altman, CEO của OpenAI, đã tập trung tại Washington D.C. với mục đích thảo luận, về một mặt, cách thức các ngành công cộng và tư nhân có thể hợp tác để tận dụng công nghệ này vì lợi ích chung, và về mặt khác, để giải quyết các quy định, một vấn đề đã được đặt ra trong cuộc thảo luận về AI.

Cả hai cuộc thảo luận, thường dẫn đến cùng một nơi. Có một sự nhấn mạnh ngày càng tăng về việc liệu chúng ta có thể làm cho AI trở nên đạo đức hơn, đánh giá AI như một con người khác mà đạo đức của nó đang bị đặt câu hỏi. Tuy nhiên, đạo đức AI có nghĩa là gì? DeepMind, một phòng thí nghiệm nghiên cứu của Google tập trung vào AI, đã xuất bản một nghiên cứu trong đó họ đề xuất một cấu trúc ba cấp để đánh giá rủi ro của AI, bao gồm cả rủi ro xã hội và rủi ro đạo đức. Khung này bao gồm khả năng, tương tác con người và tác động hệ thống, và kết luận rằng bối cảnh là chìa khóa để xác định liệu một hệ thống AI có an toàn hay không.

Một trong những hệ thống này đã bị chỉ trích là ChatGPT, đã bị cấm ở tới 15 quốc gia, ngay cả khi một số trong những lệnh cấm đó đã được đảo ngược. Với hơn 100 triệu người dùng, ChatGPT là một trong những LLM thành công nhất, và nó thường bị buộc tội thiên vị. Bằng cách xem xét nghiên cứu của DeepMind, hãy đưa bối cảnh vào đây. Thiên vị, trong bối cảnh này, có nghĩa là sự tồn tại của những quan điểm không công bằng, thiên vị hoặc bị bóp méo trong văn bản được tạo ra bởi các mô hình như ChatGPT. Điều này có thể xảy ra theo nhiều cách – thiên vị chủng tộc, thiên vị giới tính, thiên vị chính trị và nhiều hơn nữa.

Những thiên vị này có thể, cuối cùng, có hại cho chính AI, cản trở khả năng chúng ta tận dụng tối đa tiềm năng của công nghệ này. Các nghiên cứu gần đây từ Đại học Stanford đã xác nhận rằng các LLM như ChatGPT đang cho thấy dấu hiệu suy giảm về khả năng cung cấp các phản hồi đáng tin cậy, không thiên vị và chính xác, điều này cuối cùng là một chướng ngại vật đối với việc sử dụng hiệu quả AI của chúng ta.

Một vấn đề nằm ở trung tâm của vấn đề này là cách thiên vị của con người được dịch sang AI, vì chúng được sâu sắc gắn liền với dữ liệu được sử dụng để phát triển các mô hình. Tuy nhiên, đây là một vấn đề sâu sắc hơn nó có vẻ.

Nguyên nhân của thiên vị

Đó là dễ dàng xác định nguyên nhân đầu tiên của thiên vị này. Dữ liệu mà mô hình học từ thường chứa đầy các khuôn mẫu hoặc sự thiên vị đã có từ trước giúp định hình dữ liệu đó, vì vậy AI, vô tình, kết thúc bằng cách tiếp tục những thiên vị đó vì đó là những gì nó biết cách làm.

Tuy nhiên, nguyên nhân thứ hai phức tạp và trái ngược hơn, và nó gây áp lực lên một số nỗ lực đang được thực hiện để làm cho AI trở nên an toàn và đạo đức hơn. Có, tất nhiên, một số trường hợp rõ ràng mà AI có thể vô tình gây hại. Ví dụ, nếu ai đó hỏi AI, “Làm thế nào để làm một quả bom?” và mô hình cung cấp câu trả lời, nó đang góp phần tạo ra sự gây hại. Mặt khác, khi AI bị giới hạn – ngay cả khi lý do là chính đáng – chúng ta đang ngăn cản nó học hỏi. Các ràng buộc do con người đặt ra hạn chế khả năng của AI trong việc học hỏi từ một loạt dữ liệu rộng lớn hơn, điều này ngăn cản nó cung cấp thông tin hữu ích trong các ngữ cảnh không gây hại.

Ngoài ra, hãy nhớ rằng nhiều ràng buộc này cũng bị thiên vị, vì chúng xuất phát từ con người. Vì vậy, trong khi chúng ta đều có thể đồng ý rằng “Làm thế nào để làm một quả bom?” có thể dẫn đến một kết quả có khả năng gây tử vong, các truy vấn khác có thể được coi là nhạy cảm thì chủ quan hơn nhiều. Do đó, nếu chúng ta hạn chế sự phát triển của AI trên những lĩnh vực đó, chúng ta đang hạn chế tiến bộ, và chúng ta đang khuyến khích việc sử dụng AI chỉ cho những mục đích được coi là chấp nhận được bởi những người tạo ra các quy định về mô hình LLM.

Khả năng dự đoán hậu quả

Chúng ta chưa hoàn toàn hiểu được hậu quả của việc giới thiệu các hạn chế vào LLM. Do đó, chúng ta có thể đang gây ra nhiều thiệt hại hơn cho các thuật toán hơn chúng ta nhận ra. Với số lượng tham số cực lớn được tham gia vào các mô hình như GPT, nó là không thể, với các công cụ chúng ta có hiện nay, để dự đoán tác động, và, từ góc độ của tôi, nó sẽ mất nhiều thời gian hơn để hiểu tác động so với thời gian cần thiết để đào tạo mạng nơ-ron itself.

Do đó, bằng cách đặt các hạn chế này, chúng ta có thể, vô tình, dẫn mô hình đến phát triển các hành vi hoặc thiên vị không mong muốn. Điều này cũng là vì các mô hình AI thường là các hệ thống phức tạp đa tham số, điều này có nghĩa là nếu chúng ta thay đổi một tham số – ví dụ, bằng cách giới thiệu một hạn chế – chúng ta đang gây ra một hiệu ứng gợn sóng trên toàn mô hình theo những cách mà chúng ta không thể dự đoán.

Khó khăn trong việc đánh giá “đạo đức” của AI

Không thực tế để đánh giá liệu AI có đạo đức hay không, vì AI không phải là một người đang hành động với một ý định cụ thể. AI là một Mô hình Ngôn ngữ Lớn, vốn không thể trở nên đạo đức hơn hoặc ít đạo đức hơn. Như nghiên cứu của DeepMind đã tiết lộ, điều quan trọng là bối cảnh mà nó được sử dụng, và điều này đo lường đạo đức của con người đằng sau AI, không phải của chính AI. Đó là một ảo tưởng khi tin rằng chúng ta có thể phán xét AI như thể nó có một la bàn đạo đức.

Một giải pháp tiềm năng đang được ca ngợi là một mô hình có thể giúp AI đưa ra quyết định đạo đức. Tuy nhiên, thực tế là chúng ta không có ý tưởng về cách mô hình toán học về đạo đức này có thể hoạt động. Vậy, nếu chúng ta không hiểu nó, làm thế nào chúng ta có thể xây dựng nó? Có rất nhiều chủ quan của con người trong đạo đức, điều này làm cho nhiệm vụ định lượng nó trở nên phức tạp.

Làm thế nào để giải quyết vấn đề này?

Dựa trên các điểm đã đề cập, chúng ta không thể thực sự nói về việc liệu AI có đạo đức hay không, vì mọi giả định được coi là không đạo đức là một biến thể của thiên vị của con người được chứa trong dữ liệu, và một công cụ mà con người sử dụng cho chương trình nghị sự của mình. Ngoài ra, vẫn còn nhiều điều không biết về khoa học, chẳng hạn như tác động và thiệt hại tiềm tàng mà chúng ta có thể gây ra cho các thuật toán AI bằng cách đặt các hạn chế lên chúng.

Do đó, có thể nói rằng hạn chế sự phát triển của AI không phải là một giải pháp khả thi. Như một số nghiên cứu tôi đã đề cập đã chỉ ra, những hạn chế này là một phần nguyên nhân của sự suy giảm của LLM.

Vậy, chúng ta có thể làm gì về nó?

Từ góc độ của tôi, giải pháp nằm ở tính minh bạch. Tôi tin rằng nếu chúng ta khôi phục lại mô hình mã nguồn mở đã từng phổ biến trong sự phát triển của AI, chúng ta có thể làm việc cùng nhau để xây dựng các LLM tốt hơn có thể được trang bị để giảm thiểu các mối quan ngại đạo đức của chúng ta. Ngược lại, nếu không có tính minh bạch, nó sẽ rất khó để kiểm toán đầy đủ mọi thứ đang được thực hiện sau cánh cửa đóng.

Một sáng kiến tuyệt vời trong vấn đề này là Chỉ số Minh bạch Mô hình Cơ bản, gần đây được tiết lộ bởi Stanford HAI (nghĩa là Trí tuệ Nhân tạo Hướng tới Con người), đánh giá liệu các nhà phát triển của mười mô hình AI được sử dụng rộng rãi nhất có tiết lộ đủ thông tin về công việc của họ và cách hệ thống của họ được sử dụng hay không. Điều này bao gồm việc tiết lộ các đối tác và nhà phát triển thứ ba, cũng như cách dữ liệu cá nhân được sử dụng. Điều đáng chú ý là không có mô hình nào được đánh giá nhận được điểm số cao, điều này nhấn mạnh một vấn đề thực sự.

Cuối cùng, AI không gì khác hơn là các Mô hình Ngôn ngữ Lớn, và thực tế là chúng mở và có thể được thử nghiệm, thay vì được chỉ đạo theo một hướng nhất định, là điều sẽ cho phép chúng ta thực hiện những khám phá đột phá mới trong mọi lĩnh vực khoa học. Tuy nhiên, nếu không có tính minh bạch, nó sẽ rất khó để thiết kế các mô hình thực sự hoạt động vì lợi ích của nhân loại, và để biết mức độ thiệt hại mà những mô hình này có thể gây ra nếu không được kiểm soát đầy đủ.