Charles J. Simon, Tác giả, Will Computers Revolt? – Loạt Phỏng vấn

Charles J. Simon, BSEE, MSCS, là một doanh nhân, nhà phát triển và quản lý phần mềm được công nhận trên toàn quốc. Với chuyên môn quản lý và kỹ thuật rộng lớn và bằng cấp về Kỹ thuật Điện và Khoa học Máy tính, ông Simon có nhiều năm kinh nghiệm về máy tính trong ngành công nghiệp, bao gồm cả công việc tiên phong trong lĩnh vực Trí tuệ Nhân tạo (AI) và Thiết kế hỗ trợ bằng máy tính (CAD) (hai thế hệ của CAD).

Ông cũng là tác giả của cuốn sách ‘Will Computers Revolt’, cung cấp một cái nhìn sâu sắc về khả năng tương lai của Trí tuệ Nhân tạo Tổng quát (AGI).

Điều gì đã thu hút bạn đến với AI, và cụ thể là AGI?

Tôi đã bị thu hút bởi câu hỏi, “Máy móc có thể suy nghĩ không?” từ khi tôi đọc bài báo quan trọng của Alan Turing năm 1950, bắt đầu bằng câu hỏi đó. Cho đến nay, câu trả lời rõ ràng là “Không”, nhưng không có lý do khoa học nào để không thể. Tôi đã tham gia cộng đồng AI với sự bùng nổ của mạng nơ-ron đầu tiên vào cuối những năm 1980 và từ đó, AI đã đạt được những bước tiến lớn. Tuy nhiên, ba thập kỷ qua chưa mang lại sự hiểu biết cho máy móc của chúng ta, một khả năng sẽ đưa nhiều ứng dụng lên mức hữu ích mới.

Bạn đã tuyên bố rằng bạn chia sẻ quan điểm của chuyên gia AI tại MIT, Rodney Brooks, người nói rằng, ‘không có sự tương tác với môi trường – không có cơ thể robot như bạn sẽ – máy móc sẽ không bao giờ thể hiện AGI.’ Điều này cơ bản nói rằng, không có đủ đầu vào từ cơ thể robot, AI sẽ không bao giờ phát triển khả năng AGI. Ngoài tầm nhìn máy tính, những loại đầu vào nào cần thiết để phát triển AGI?

AI ngày nay cần được bổ sung bằng các khái niệm cơ bản như sự tồn tại vật lý của các đối tượng trong thực tế, sự trôi qua của thời gian, nguyên nhân và kết quả – những khái niệm rõ ràng với bất kỳ đứa trẻ ba tuổi nào. Một đứa trẻ sử dụng nhiều giác quan để học những khái niệm này bằng cách chạm và thao tác đồ chơi, di chuyển trong nhà, học ngôn ngữ, v.v. Mặc dù có thể tạo ra một AGI với các giác quan hạn chế hơn, nhưng nhiều giác quan và khả năng tương tác hơn sẽ làm cho việc giải quyết vấn đề AGI dễ dàng hơn.

Để hoàn thiện, mô拟 của tôi có thể cung cấp các giác quan về mùi và vị. Nó vẫn còn phải xem liệu những giác quan này cũng sẽ chứng minh là quan trọng đối với AGI.

Bạn đã tuyên bố rằng, ‘Một yêu cầu quan trọng cho trí thông minh là một môi trường bên ngoài trí thông minh’. Ví dụ bạn đưa ra là, ‘không hợp lý khi mong đợi IBM’s Watson “hiểu” bất cứ điều gì nếu nó không có ý niệm cơ bản về một “đối tượng” là gì’. Điều này rõ ràng chơi trong những hạn chế hiện tại của AI hẹp, đặc biệt là xử lý ngôn ngữ tự nhiên. Làm thế nào các nhà phát triển AI có thể vượt qua hạn chế hiện tại của AI?

Một yếu tố quan trọng là lưu trữ kiến thức không cụ thể là ngôn từ, hình ảnh hoặc xúc giác nhưng như các “Đối tượng” trừu tượng có thể có các thuộc tính ngôn từ, hình ảnh và xúc giác. Hãy xem xét một thứ đơn giản như cụm từ, “một quả bóng đỏ”. Bạn biết những từ này có nghĩa là gì vì kinh nghiệm hình ảnh và xúc giác của bạn. Bạn cũng biết ý nghĩa của các hành động liên quan như ném, nảy, đá, v.v. tất cả đều đến tâm trí ở một mức độ nào đó khi bạn nghe cụm từ. Bất kỳ hệ thống AI nào cụ thể dựa trên từ hoặc hình ảnh sẽ bỏ lỡ các cấp độ hiểu biết khác.

Tôi đã triển khai một Kho Kiến thức Toàn cầu lưu trữ bất kỳ loại thông tin nào trong một cấu trúc giống như não, nơi các Đối tượng tương tự như nơ-ron và có nhiều tham chiếu thuộc tính đến các Đối tượng khác – các tham chiếu tương tự như synap. Do đó, đỏ và bóng là các Đối tượng riêng biệt và một quả bóng đỏ là một Đối tượng có các tham chiếu thuộc tính đến Đối tượng đỏ và Đối tượng bóng. Cả đỏ và bóng đều có tham chiếu đến các Đối tượng tương ứng với các từ “đỏ” và “bóng”, mỗi từ đều có tham chiếu đến các Đối tượng khác định nghĩa cách các từ được nghe, nói, đọc hoặc đánh vần cũng như các hành động có thể.

Bạn đã kết luận rằng mô phỏng não của trí thông minh tổng quát là một chặng đường dài trong khi AGI có thể (tương đối) chỉ ở phía chân trời. Dựa trên tuyên bố này, chúng ta có nên từ bỏ việc mô phỏng hoặc tạo mô hình não của con người và chỉ tập trung vào AGI?

Công nghệ học sâu và các công nghệ liên quan ngày nay rất tốt cho các ứng dụng phù hợp nhưng sẽ không tự động dẫn đến sự hiểu biết. Để tiến bước tiếp theo, chúng ta cần thêm các kỹ thuật cụ thể nhằm giải quyết các vấn đề nằm trong khả năng của bất kỳ đứa trẻ ba tuổi nào.

Lợi dụng các khả năng intrinsic của máy tính của chúng ta có thể hiệu quả hơn nhiều so với tương đương sinh học hoặc bất kỳ mô hình nào của nó. Ví dụ, não của bạn có thể lưu trữ thông tin trong hóa học của các synap sinh học qua nhiều lần lặp lại đòi hỏi 10-100 mili giây. Một máy tính có thể đơn giản lưu trữ giá trị synap mới trong một chu kỳ bộ nhớ, nhanh hơn một tỷ lần.

Trong việc phát triển phần mềm AGI, tôi đã thực hiện cả mô phỏng nơ-ron sinh học và các thuật toán hiệu quả hơn. Tiếp tục với Kho Kiến thức Toàn cầu, khi mô phỏng trong nơ-ron sinh học mô phỏng, mỗi Đối tượng đòi hỏi tối thiểu 10 nơ-ron và thường nhiều hơn. Điều này đặt khả năng của não người vào khoảng giữa mười và một trăm triệu Đối tượng. Nhưng có thể một AGI sẽ xuất hiện thông minh nếu nó hiểu được chỉ một triệu Đối tượng – hoàn toàn trong phạm vi của máy tính để bàn cao cấp ngày nay.

Một yếu tố không rõ là bao nhiêu thời gian của robot nên được phân bổ cho việc xử lý và phản ứng với thế giới so với thời gian dành cho việc tưởng tượng và lập kế hoạch. Bạn có thể giải thích ngắn gọn về tầm quan trọng của tưởng tượng đối với một AGI?

Chúng ta có thể tưởng tượng nhiều thứ và sau đó chỉ hành động trên những thứ mà chúng ta thích, những thứ phù hợp với mục tiêu nội bộ của chúng ta, nếu muốn. Quyền lực thực sự của tưởng tượng là khả năng dự đoán tương lai – một đứa trẻ ba tuổi có thể suy nghĩ ra các chuỗi chuyển động nào sẽ dẫn nó đến một mục tiêu trong một phòng khác và một người lớn có thể suy đoán về những từ nào sẽ có tác động lớn nhất đến người khác.

Một AGI cũng sẽ được hưởng lợi từ việc vượt ra ngoài việc chỉ phản ứng và suy đoán về các hành động phức tạp và chọn hành động tốt nhất.

Bạn tin rằng ba luật robotics của Asimov quá đơn giản và mơ hồ. Trong cuốn sách của bạn, bạn đã chia sẻ một số ý tưởng về các luật được đề xuất để lập trình cho robot. Những luật nào bạn cảm thấy quan trọng nhất cho một robot phải tuân theo?

Các “luật robotics” mới sẽ tiến hóa trong nhiều năm khi AGI xuất hiện. Tôi đề xuất một số khởi đầu:

1. Tối đa hóa kiến thức và hiểu biết về môi trường nội bộ.
2. Chia sẻ kiến thức đó một cách chính xác với người khác (cả AGI và con người).
3. Tối đa hóa sự thịnh vượng của cả AGI và con người như một toàn thể – không chỉ như một cá nhân.

Bạn có một số vấn đề với Bài kiểm tra Turing và khái niệm đằng sau nó. Bạn có thể giải thích làm thế nào bạn tin rằng Bài kiểm tra Turing bị lỗi?

Bài kiểm tra Turing đã phục vụ chúng ta trong năm mươi năm như một định nghĩa tạm thời về trí thông minh tổng quát, nhưng khi AGI gần kề, chúng ta cần phải tinh chỉnh định nghĩa và chúng ta cần một định nghĩa rõ ràng hơn. Bài kiểm tra Turing thực sự là một bài kiểm tra về mức độ con người, không phải về mức độ thông minh. Thời gian dài hơn mà một máy tính có thể duy trì sự lừa dối, nó sẽ thực hiện tốt hơn trên bài kiểm tra. Rõ ràng, việc hỏi câu hỏi, “Bạn có phải là máy tính không?” và các câu hỏi đại diện liên quan như, “Món ăn yêu thích của bạn là gì?” là những dấu hiệu rõ ràng trừ khi AGI được lập trình để lừa dối – một mục tiêu đáng ngờ nhất.

Hơn nữa, Bài kiểm tra Turing đã thúc đẩy sự phát triển AI vào các lĩnh vực có giá trị hạn chế với (ví dụ) các rô-bốt trò chuyện có sự linh hoạt lớn trong phản hồi nhưng không có sự hiểu biết cơ bản.

Bạn sẽ làm khác gì trong phiên bản của mình về Bài kiểm tra Turing?

Các câu hỏi tốt hơn có thể kiểm tra cụ thể vào sự hiểu biết về thời gian, không gian, nguyên nhân và kết quả, v.v. thay vì các câu hỏi ngẫu nhiên không có cơ sở cụ thể trong tâm lý học, khoa học thần kinh hoặc AI. Dưới đây là một số ví dụ:

1. Bạn thấy gì ngay bây giờ? Nếu bạn lùi lại ba feet, bạn sẽ thấy những khác biệt gì?
2. Nếu tôi [hành động], phản ứng của bạn sẽ là gì?
3. Nếu bạn [hành động], phản ứng có thể của tôi sẽ là gì?
4. Bạn có thể đặt tên cho ba thứ gì giống như [đối tượng]?

Sau đó, thay vì đánh giá phản hồi về việc liệu chúng có thể phân biệt được với phản hồi của con người, chúng nên được đánh giá về việc liệu chúng có phải là phản hồi hợp lý (thông minh) dựa trên kinh nghiệm của thực thể được kiểm tra.

Bạn đã tuyên bố rằng khi đối mặt với yêu cầu thực hiện một số hoạt động phá hoại ngắn hạn, AGI được lập trình đúng sẽ đơn giản từ chối. Làm thế nào chúng ta có thể đảm bảo rằng AGI được lập trình đúng từ đầu?

Quyết định là dựa trên mục tiêu. Kết hợp với tưởng tượng, bạn (hoặc một AGI) xem xét kết quả của các hành động khác nhau và chọn hành động phù hợp nhất với mục tiêu. Ở con người, mục tiêu của chúng ta được đặt bởi bản năng tiến hóa và kinh nghiệm; mục tiêu của AGI hoàn toàn phụ thuộc vào nhà phát triển. Chúng ta cần đảm bảo rằng mục tiêu của AGI phù hợp với mục tiêu của nhân loại, thay vì mục tiêu cá nhân của một cá nhân. [Ba mục tiêu có thể như được liệt kê ở trên.]

Bạn đã tuyên bố rằng, AGI sẽ được tạo ra là không thể tránh khỏi, ước tính tốt nhất của bạn cho một khung thời gian là gì?

Các khía cạnh của AGI sẽ bắt đầu xuất hiện trong thập kỷ tới nhưng chúng ta sẽ không đồng ý rằng AGI đã đến. Cuối cùng, chúng ta sẽ đồng ý rằng AGI đã đến khi chúng vượt qua hầu hết khả năng của con người với một biên độ đáng kể. Điều này sẽ mất hai hoặc ba thập kỷ nữa.

Đối với tất cả các cuộc thảo luận về AGI, liệu nó sẽ là ý thức thực sự như chúng ta biết?

Ý thức thể hiện trong một tập hợp các hành vi (mà chúng ta có thể quan sát) dựa trên một cảm giác nội bộ (mà chúng ta không thể quan sát). AGI sẽ thể hiện các hành vi; chúng cần phải làm như vậy để đưa ra quyết định thông minh. Nhưng tôi cho rằng cảm giác nội bộ của chúng ta chủ yếu phụ thuộc vào phần cứng cảm giác và bản năng của chúng ta và do đó tôi có thể đảm bảo rằng bất kỳ cảm giác nội bộ nào mà AGI có thể có, chúng sẽ khác với con người.

Cùng một điều có thể được nói về cảm xúc và ý chí tự do của chúng ta. Khi đưa ra quyết định, niềm tin vào ý chí tự do của chúng ta thấm vào mọi quyết định chúng ta đưa ra. Nếu bạn không tin rằng bạn có một lựa chọn, bạn chỉ phản ứng. Để AGI đưa ra quyết định suy nghĩ, nó cũng cần phải nhận thức được khả năng đưa ra quyết định của chính nó.

Câu hỏi cuối cùng, bạn có nghĩ rằng AGI có nhiều tiềm năng tốt hơn hay xấu hơn?

Tôi lạc quan rằng AGI sẽ giúp chúng ta tiến về phía trước như một loài và mang lại cho chúng ta câu trả lời cho nhiều câu hỏi về vũ trụ. Khóa sẽ là để chúng ta chuẩn bị và quyết định mối quan hệ của chúng ta với AGI khi chúng ta định nghĩa mục tiêu của chúng. Nếu chúng ta quyết định sử dụng AGI đầu tiên như công cụ chinh phục và làm giàu, chúng ta không nên ngạc nhiên nếu, trên đường đi, chúng trở thành công cụ chinh phục và làm giàu của riêng chúng ta chống lại chúng ta. Nếu chúng ta chọn AGI là công cụ của kiến thức, khám phá và hòa bình, thì đó là những gì chúng ta có thể nhận lại. Lựa chọn thuộc về chúng ta.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời khi khám phá tiềm năng tương lai của việc xây dựng một AGI. Đối với những người đọc muốn tìm hiểu thêm, họ có thể đọc ‘Will Computers Revolt’ hoặc truy cập trang web của Charle tại utureai.guru.