Liệu Trí Tuệ Nhân Tạo Có Phải Là Một Nguy Cơ Tiềm Tàng?

Khi thảo luận về Trí Tuệ Nhân Tạo (AI), một cuộc tranh luận phổ biến là liệu AI có phải là một nguy cơ tiềm tàng. Câu trả lời đòi hỏi phải hiểu công nghệ đằng sau Học Máy (ML) và nhận ra rằng con người có xu hướng nhân cách hóa. Chúng ta sẽ khám phá hai loại AI khác nhau, Trí Tuệ Hẹp (ANI) hiện có và gây lo ngại, và nguy cơ thường được liên kết với các phiên bản tận thế của AI, đó là Trí Tuệ Tổng Quát (AGI).

Nguy Cơ Của Trí Tuệ Hẹp

Để hiểu ANI là gì, bạn chỉ cần hiểu rằng mọi ứng dụng AI hiện có đều là một dạng của ANI. Những lĩnh vực này của AI có một lĩnh vực chuyên môn hẹp, ví dụ như xe tự hành sử dụng AI được thiết kế với mục đích duy nhất là di chuyển xe từ điểm A đến điểm B. Một loại ANI khác có thể là chương trình cờ vua được tối ưu hóa để chơi cờ vua, và ngay cả khi chương trình cờ vua liên tục cải thiện bản thân bằng cách sử dụng học tăng cường, chương trình cờ vua sẽ không bao giờ có thể vận hành một xe tự hành.

Với sự tập trung vào hoạt động mà nó chịu trách nhiệm, các hệ thống ANI không thể sử dụng học tổng quát để chiếm quyền kiểm soát thế giới. Đó là tin tốt; tin xấu là với sự phụ thuộc vào một người vận hành, hệ thống AI dễ bị ảnh hưởng bởi dữ liệu thiên vị, lỗi của con người, hoặc thậm chí là một người vận hành độc ác.

Giám Sát AI

Có thể không có nguy cơ nào lớn hơn đối với loài người hơn việc con người sử dụng AI để xâm phạm quyền riêng tư, và trong một số trường hợp, sử dụng giám sát AI để hoàn toàn ngăn chặn người dân di chuyển tự do. Trung Quốc, Nga và các quốc gia khác đã thông qua các quy định trong thời gian COVID-19 để cho phép họ theo dõi và kiểm soát sự di chuyển của dân số tương ứng. Những luật này một khi đã được thông qua, sẽ rất khó để loại bỏ, đặc biệt là trong các xã hội có lãnh đạo độc tài.

Ở Trung Quốc, camera được đặt bên ngoài nhà của người dân, và trong một số trường hợp, bên trong nhà. Mỗi lần một thành viên trong hộ gia đình rời đi, AI sẽ theo dõi thời gian đến và đi, và nếu cần, sẽ cảnh báo cơ quan chức năng. Như nếu điều đó không đủ, với sự hỗ trợ của công nghệ nhận dạng khuôn mặt, Trung Quốc có thể theo dõi sự di chuyển của từng người mỗi khi họ được camera nhận dạng. Điều này mang lại quyền lực tuyệt đối cho thực thể kiểm soát AI, và không có biện pháp nào cho công dân.

Vì sao kịch bản này nguy hiểm, là vì các chính phủ tham nhũng có thể theo dõi chặt chẽ sự di chuyển của các nhà báo, đối thủ chính trị, hoặc bất kỳ ai dám thách thức quyền lực của chính phủ. Dễ hiểu tại sao các nhà báo và công dân sẽ thận trọng khi chỉ trích chính phủ khi mọi hành động của họ đều được theo dõi.

May mắn là có nhiều thành phố đang chiến đấu để ngăn chặn việc nhận dạng khuôn mặt xâm nhập vào thành phố của họ. Đặc biệt, Portland, Oregon đã thông qua một luật cấm nhận dạng khuôn mặt được sử dụng không cần thiết trong thành phố. Mặc dù những thay đổi trong quy định này có thể không được công chúng chú ý, nhưng trong tương lai, những quy định này có thể là sự khác biệt giữa các thành phố cung cấp một số loại tự do và các thành phố cảm thấy áp bức.

Vũ Khí Tự Hành và Máy Bay Không Người Lái

Hơn 4500 nhà nghiên cứu AI đã kêu gọi cấm vũ khí tự hành và đã tạo ra Trang web Cấm Vũ Khí Tự Hành. Nhóm này có nhiều tổ chức phi lợi nhuận nổi tiếng như Tổ chức Theo dõi Nhân quyền, Tổ chức Ân xá Quốc tế, và Viện Tương lai của Cuộc sống mà trong đó có một hội đồng tư vấn khoa học xuất sắc bao gồm Elon Musk, Nick Bostrom, và Stuart Russell.

Trước khi tiếp tục, tôi sẽ chia sẻ một trích dẫn từ Viện Tương lai của Cuộc sống, điều này giải thích tại sao có lý do để lo ngại: “Ngược lại với vũ khí bán tự hành đòi hỏi sự giám sát của con người để đảm bảo rằng mỗi mục tiêu được xác nhận là hợp pháp và hợp lý, vũ khí tự hành hoàn toàn chọn và tấn công mục tiêu mà không có sự can thiệp của con người, đại diện cho sự tự động hóa hoàn toàn của thiệt hại致命.”

Hiện tại, bom thông minh được triển khai với mục tiêu được chọn bởi con người, và bom sau đó sử dụng AI để tính toán đường đi và hạ cánh xuống mục tiêu. Vấn đề là gì xảy ra khi chúng ta quyết định loại bỏ hoàn toàn con người khỏi phương trình?

Khi một AI chọn những gì con người cần nhắm mục tiêu, cũng như loại thiệt hại附随 nào được coi là có thể chấp nhận, chúng ta có thể đã vượt qua một điểm không thể quay lại. Đây là lý do tại sao nhiều nhà nghiên cứu AI phản đối việc nghiên cứu bất cứ điều gì liên quan đến vũ khí tự hành.

Có nhiều vấn đề với việc đơn giản là chặn nghiên cứu vũ khí tự hành. Vấn đề đầu tiên là ngay cả khi các quốc gia tiên tiến như Canada, Mỹ và hầu hết châu Âu chọn đồng ý với lệnh cấm, điều đó không có nghĩa là các quốc gia độc ác như Trung Quốc, Bắc Triều Tiên, Iran và Nga sẽ tuân thủ. Vấn đề thứ hai và lớn hơn là nghiên cứu và ứng dụng AI được thiết kế cho một lĩnh vực có thể được sử dụng trong một lĩnh vực hoàn toàn không liên quan.

Ví dụ, tầm nhìn máy tính liên tục được cải thiện và quan trọng cho việc phát triển xe tự hành, y học chính xác, và các trường hợp sử dụng quan trọng khác. Nó cũng quan trọng cơ bản cho máy bay không người lái thông thường hoặc máy bay không người lái có thể được sửa đổi để trở thành tự hành. Một trường hợp sử dụng tiềm năng của công nghệ máy bay không người lái tiên tiến là phát triển máy bay không người lái có thể theo dõi và chống lại các vụ cháy rừng. Điều này sẽ loại bỏ hoàn toàn những người lính cứu hỏa khỏi vùng nguy hiểm. Để làm điều này, bạn cần xây dựng máy bay không người lái có thể bay vào vùng nguy hiểm, điều hướng trong tầm nhìn thấp hoặc không có tầm nhìn, và có thể thả nước với độ chính xác không thể tin được. Không phải là một bước nhảy vĩ đại để sử dụng cùng công nghệ này trong một máy bay không người lái tự hành được thiết kế để nhắm mục tiêu có chọn lọc vào con người.

Đây là một tình huống nguy hiểm và tại thời điểm này, không ai hiểu đầy đủ về ý nghĩa của việc phát triển hoặc chặn sự phát triển của vũ khí tự hành. Tuy nhiên, đây là điều mà chúng ta cần phải theo dõi chặt chẽ, tăng cường bảo vệ người tố giác có thể cho phép những người trong lĩnh vực này báo cáo các hành vi lạm dụng.

Bên cạnh việc vận hành độc ác, điều gì xảy ra nếu thiên vị AI xâm nhập vào công nghệ AI được thiết kế để trở thành vũ khí tự hành?

Thiên Vị AI

Một trong những nguy cơ không được báo cáo nhiều nhất của AI là thiên vị AI. Điều này đơn giản để hiểu vì hầu hết trong số đó là không cố ý. Thiên vị AI trượt vào khi một AI xem xét dữ liệu được cung cấp bởi con người, sử dụng nhận dạng mẫu từ dữ liệu được cung cấp cho AI, AI sai lầm kết luận những điều có thể có hậu quả tiêu cực đối với xã hội. Ví dụ, một AI được cung cấp văn học từ thế kỷ trước về cách xác định nhân viên y tế có thể đạt đến kết luận không mong muốn rằng phụ nữ luôn là y tá, và nam giới luôn là bác sĩ.

Một kịch bản nguy hiểm hơn là khi AI được sử dụng để tuyên án những người phạm tội bị thiên vị về việc tuyên án dài hơn cho các nhóm thiểu số. Thuật toán đánh giá rủi ro tội phạm của AI chỉ đơn giản là nghiên cứu các mẫu trong dữ liệu đã được nhập vào hệ thống. Dữ liệu này cho thấy rằng lịch sử các nhóm thiểu số có nhiều khả năng tái phạm, ngay cả khi điều này là do dữ liệu kém chất lượng có thể bị ảnh hưởng bởi hồ sơ chủng tộc của cảnh sát. AI thiên vị sau đó củng cố các chính sách tiêu cực của con người. Đây là lý do tại sao AI nên là một hướng dẫn, không phải là thẩm phán và bồi thẩm.

Quay lại vũ khí tự hành, nếu chúng ta có một AI bị thiên vị chống lại các nhóm dân tộc nhất định, nó có thể chọn nhắm mục tiêu vào các cá nhân dựa trên dữ liệu thiên vị, và nó có thể đi đến mức đảm bảo rằng bất kỳ loại thiệt hại附随 nào sẽ ảnh hưởng đến các dân tộc nhất định ít hơn những dân tộc khác. Ví dụ, khi nhắm mục tiêu vào một kẻ khủng bố, trước khi tấn công, nó có thể chờ cho đến khi kẻ khủng bố được bao quanh bởi những người theo đạo Hồi thay vì Kitô giáo.

May mắn là, đã được chứng minh rằng AI được thiết kế với các đội đa dạng ít bị thiên vị hơn. Đây là lý do đủ để các doanh nghiệp cố gắng thuê một đội đa dạng và toàn diện khi có thể.

Nguy Cơ Của Trí Tuệ Tổng Quát

Nên lưu ý rằng trong khi AI đang phát triển với tốc độ cấp số nhân, chúng ta vẫn chưa đạt được AGI. Khi nào chúng ta sẽ đạt được AGI là điều đang được tranh luận, và mọi người có một câu trả lời khác nhau về thời gian biểu. Tôi cá nhân tuân theo quan điểm của Ray Kurzweil, nhà phát minh, nhà tương lai học và tác giả của ‘Điểm 奇异 là Gần’, người tin rằng chúng ta sẽ đạt được AGI vào năm 2029.

AGI sẽ là công nghệ chuyển đổi nhất trên thế giới. Trong vài tuần sau khi AI đạt được trí tuệ cấp độ con người, nó sẽ đạt được siêu trí tuệ, được định nghĩa là trí tuệ vượt xa trí tuệ của con người.

Với mức độ thông minh này, một AGI có thể nhanh chóng hấp thụ tất cả kiến thức của con người và sử dụng nhận dạng mẫu để xác định các dấu hiệu sinh học gây ra vấn đề sức khỏe, và sau đó điều trị các tình trạng này bằng cách sử dụng khoa học dữ liệu. Nó có thể tạo ra các robot nano có thể vào máu để nhắm mục tiêu vào các tế bào ung thư hoặc các vector tấn công khác. Danh sách thành tựu mà một AGI có thể đạt được là vô tận. Chúng ta đã khám phá một số lợi ích của AGI trước đó.

Vấn đề là con người có thể không còn kiểm soát được AI. Elon Musk mô tả nó như thế này: ”Với trí tuệ nhân tạo, chúng ta đang triệu hồi quỷ.’ Liệu chúng ta có thể kiểm soát được con quỷ này hay không là câu hỏi?

Đạt được AGI có thể đơn giản là không thể cho đến khi một AI rời khỏi môi trường mô phỏng để thực sự tương tác trong thế giới mở của chúng ta. Sự tự nhận thức không thể được thiết kế, thay vào đó, nó được cho là sẽ xuất hiện khi một AI có một cơ thể robot với nhiều luồng đầu vào. Những luồng này có thể bao gồm kích thích xúc giác, nhận dạng giọng nói với hiểu ngôn ngữ tự nhiên được cải thiện, và tầm nhìn máy tính được tăng cường.

AI tiên tiến có thể được lập trình với động cơ vị tha và muốn cứu hành tinh. Thật không may, AI có thể sử dụng khoa học dữ liệu, hoặc thậm chí một cây quyết định để đến những logic sai lầm, chẳng hạn như đánh giá rằng cần phải khử trùng con người, hoặc loại bỏ một phần dân số để kiểm soát sự quá tải của con người.

Cần phải suy nghĩ và cân nhắc cẩn thận khi xây dựng một AI với trí tuệ sẽ vượt qua trí tuệ của con người. Đã có nhiều kịch bản tồi tệ được khám phá.

Giáo sư Nick Bostrom trong lập luận Tối đa hóa Kẹp giấy đã lập luận rằng một AGI bị cấu hình sai nếu được hướng dẫn để sản xuất kẹp giấy sẽ đơn giản tiêu thụ tất cả tài nguyên của Trái đất để sản xuất những kẹp giấy này. Mặc dù điều này có vẻ hơi xa vời, một quan điểm thực tế hơn là một AGI có thể được kiểm soát bởi một quốc gia độc ác hoặc một công ty có đạo đức kém. Thực thể này có thể đào tạo AGI để tối đa hóa lợi nhuận, và trong trường hợp này, với việc lập trình kém và không có sự hối tiếc, nó có thể chọn phá sản các đối thủ cạnh tranh, phá hủy chuỗi cung ứng, hack thị trường chứng khoán, thanh lý tài khoản ngân hàng, hoặc tấn công các đối thủ chính trị.

Đây là khi chúng ta cần nhớ rằng con người có xu hướng nhân cách hóa. Chúng ta không thể cho AI những cảm xúc, mong muốn hoặc ham muốn giống như con người. Mặc dù có những con người độc ác giết người vì vui, không có lý do gì để tin rằng một AI sẽ dễ bị ảnh hưởng bởi loại hành vi này. Không thể tưởng tượng được cách một AI sẽ xem thế giới.

Thay vào đó, điều chúng ta cần làm là dạy AI luôn phải tuân thủ con người. AI nên luôn có một người xác nhận bất kỳ thay đổi nào trong cài đặt, và luôn phải có một cơ chế an toàn. Một lần nữa, đã được lập luận rằng AI sẽ đơn giản nhân bản trong đám mây, và vào thời điểm chúng ta nhận ra nó là tự nhận thức, có thể đã quá muộn.

Đây là lý do tại sao việc mở nguồn càng nhiều AI càng tốt và có những cuộc thảo luận hợp lý về những vấn đề này là rất quan trọng.

Tổng Kết

Có nhiều thách thức đối với AI, may mắn là chúng ta vẫn còn nhiều năm để tập thể quyết định con đường tương lai mà chúng ta muốn AGI thực hiện. Chúng ta nên tập trung ngắn hạn vào việc tạo ra một lực lượng lao động AI đa dạng, bao gồm cả nam và nữ, và các nhóm dân tộc với quan điểm đa dạng càng nhiều càng tốt.

Chúng ta cũng nên tạo ra sự bảo vệ cho những người tố giác đang làm việc trên AI, và chúng ta nên thông qua luật và quy định ngăn chặn lạm dụng giám sát rộng rãi của nhà nước hoặc công ty. Con người có một cơ hội duy nhất trong đời để cải thiện tình trạng con người với sự hỗ trợ của AI, chúng ta chỉ cần đảm bảo rằng chúng ta cẩn thận tạo ra một khuôn khổ xã hội tốt nhất có thể tận dụng những mặt tích cực, đồng thời giảm thiểu những mặt tiêu cực, bao gồm cả những nguy cơ tồn tại.