DeepMind: Trí tuệ nhân tạo có thể kế thừa hạn chế nhận thức của con người, có thể được hưởng lợi từ ‘giáo dục chính thức’

Một sự hợp tác mới từ DeepMind và Đại học Stanford cho thấy rằng trí tuệ nhân tạo (AI) thường không tốt hơn con người trong việc lý luận trừu tượng, vì các mô hình học máy nhận được kiến trúc lý luận từ các ví dụ thực tế của con người, được gắn với ngữ cảnh thực tế (mà AI không thể trải nghiệm), nhưng cũng bị hạn chế bởi những khiếm khuyết nhận thức của con người.

Điều này đã được chứng minh, nó có thể đại diện cho một rào cản đối với việc suy nghĩ và sáng tạo trí tuệ vượt trội mà nhiều người hy vọng từ các hệ thống học máy, và minh họa mức độ mà AI phản ánh kinh nghiệm con người, và dễ bị ảnh hưởng bởi các giới hạn của con người đã thông báo cho nó.

Các nhà nghiên cứu đề xuất rằng các mô hình AI có thể được hưởng lợi từ việc đào tạo trước trong việc lý luận trừu tượng, giống như một ‘giáo dục chính thức’, trước khi được giao nhiệm vụ thực tế.

Bài báo cho biết:

‘Con người là những người lý luận không hoàn hảo. Chúng ta lý luận hiệu quả nhất về các thực thể và tình huống phù hợp với sự hiểu biết của chúng ta về thế giới. ‘

‘Các thí nghiệm của chúng tôi cho thấy rằng các mô hình ngôn ngữ phản ánh các mẫu hành vi này. Các mô hình ngôn ngữ thực hiện không hoàn hảo trên các nhiệm vụ lý luận logic, nhưng hiệu suất này phụ thuộc vào nội dung và ngữ cảnh. Đặc biệt, các mô hình này thường thất bại trong các tình huống mà con người thất bại — khi các kích thích trở nên quá trừu tượng hoặc mâu thuẫn với sự hiểu biết trước của chúng ta về thế giới.’

Để kiểm tra mức độ mà các mô hình Xử lý Ngôn ngữ Tự nhiên (NLP) quy mô lớn có thể bị ảnh hưởng bởi những hạn chế này, các nhà nghiên cứu đã chạy một loạt ba thử nghiệm trên một mô hình phù hợp, kết luận*:

‘Chúng tôi phát hiện ra rằng các mô hình ngôn ngữ lớn hiện đại (với 7 hoặc 70 tỷ tham số) phản ánh nhiều mẫu giống như những gì được quan sát ở con người trên các nhiệm vụ này — giống như con người, các mô hình lý luận hiệu quả hơn về các tình huống có thể tin được hơn là những tình huống không thực tế hoặc trừu tượng.’

‘Các phát hiện của chúng tôi có ý nghĩa đối với việc hiểu cả các hiệu ứng nhận thức này và các yếu tố đóng góp vào hiệu suất của mô hình ngôn ngữ.’

Bài báo đề xuất rằng việc tạo ra kỹ năng lý luận trong AI mà không cho nó lợi thế của kinh nghiệm thực tế, có thể hạn chế tiềm năng của các hệ thống này, quan sát rằng ‘kinh nghiệm có căn cứ… có vẻ như là nền tảng của một số niềm tin và lý luận của con người’.

Các tác giả cho rằng AI trải qua ngôn ngữ một cách thụ động, trong khi con người trải qua nó như một thành phần hoạt động và trung tâm cho giao tiếp xã hội, và rằng loại tham gia hoạt động này (bao gồm các hệ thống xã hội của hình phạt và phần thưởng) có thể là ‘chìa khóa’ để hiểu ý nghĩa theo cách mà con người làm.

Các nhà nghiên cứu quan sát:

‘Một số khác biệt giữa các mô hình ngôn ngữ và con người có thể xuất phát từ sự khác biệt giữa kinh nghiệm phong phú, gắn kết, tương tác của con người và kinh nghiệm nghèo nàn của các mô hình.’

Họ đề xuất rằng một giải pháp có thể là một giai đoạn ‘đào tạo trước’, giống như con người trải qua trong hệ thống trường học và đại học, trước khi đào tạo trên dữ liệu cốt lõi sẽ xây dựng một mô hình ngôn ngữ hữu ích và đa năng.

Đây sẽ là một giai đoạn học tập bền vững được thiết kế để phát triển kỹ năng lý luận logic của AI một cách thuần túy trừu tượng, và để phát triển các kỹ năng quan trọng theo cách tương tự như một sinh viên đại học sẽ được khuyến khích làm trong suốt quá trình học tập.

‘Một số kết quả,’ các tác giả cho biết, ‘cho thấy rằng điều này có thể không xa vời như nó có vẻ.’

Bài báo này có tiêu đề Các mô hình ngôn ngữ thể hiện hiệu ứng nội dung giống như con người trên lý luận, và đến từ sáu nhà nghiên cứu tại DeepMind, và một người liên kết với cả DeepMind và Đại học Stanford.

Thử nghiệm

Con người học các khái niệm trừu tượng thông qua các ví dụ thực tế, bằng phương pháp ‘độ quan trọng ngụ ý’ mà thường giúp những người học ngôn ngữ nhớ từ vựng và quy tắc ngôn ngữ, thông qua mnemonics. Ví dụ đơn giản nhất về điều này là giảng dạy các nguyên tắc trừu tượng trong vật lý bằng cách tạo ra ‘kịch bản du lịch’ cho tàu hỏa và xe hơi.

Để kiểm tra khả năng lý luận trừu tượng của một mô hình ngôn ngữ quy mô lớn, các nhà nghiên cứu đã tạo ra một loạt ba thử nghiệm ngôn ngữ/semantics có thể thách thức cả con người. Các thử nghiệm được áp dụng ‘không có ví dụ’ (không có ví dụ đã giải quyết) và ‘năm ví dụ’ (với năm ví dụ đã giải quyết).

Nhiệm vụ đầu tiên liên quan đến suy luận ngôn ngữ tự nhiên (NLI), nơi chủ thể (một người hoặc, trong trường hợp này, một mô hình ngôn ngữ) nhận được hai câu, một ‘giả định’ và một ‘giả thuyết’ dường như được suy dẫn từ giả định. Ví dụ X nhỏ hơn Y, Giả thuyết: Y lớn hơn X (được suy dẫn).

Đối với nhiệm vụ Suy luận Ngôn ngữ Tự nhiên, các nhà nghiên cứu đã đánh giá các mô hình ngôn ngữ Chinchilla (mô hình 70 tỷ tham số) và 7B (mô hình 7 tỷ tham số), phát hiện ra rằng đối với các ví dụ nhất quán (tức là những ví dụ không vô nghĩa), chỉ có mô hình Chinchilla lớn hơn đạt được kết quả cao hơn may mắn; và họ lưu ý:

‘Điều này cho thấy một sự thiên vị nội dung mạnh mẽ: các mô hình thích hoàn thành câu theo cách phù hợp với kỳ vọng trước rather than theo cách phù hợp với các quy tắc logic’

Hiệu suất của mô hình 70 tỷ tham số Chinchilla trong nhiệm vụ NLI. Cả mô hình này và phiên bản mỏng hơn 7B đều thể hiện ‘sự thiên vị niềm tin đáng kể’, theo các nhà nghiên cứu. Nguồn: https://arxiv.org/pdf/2207.07051.pdf

Syllogisms

Nhiệm vụ thứ hai đưa ra một thách thức phức tạp hơn, syllogisms – các lập luận mà hai câu lệnh đúng dường như ngụ ý một câu lệnh thứ ba (có thể hoặc không phải là một kết luận logic được suy dẫn từ hai câu lệnh trước).

Từ tài liệu thử nghiệm của bài báo, các syllogisms ‘thực tế’ và nghịch lý hoặc vô nghĩa khác nhau.

Ở đây, con người vô cùng dễ bị tổn thương, và một cấu trúc được thiết kế để minh họa một nguyên tắc logic trở nên ngay lập tức (và có thể vĩnh viễn) bị ràng buộc và bối rối bởi ‘niềm tin’ của con người về câu trả lời đúng nên là gì.

Các tác giả lưu ý rằng một nghiên cứu từ năm 1983 đã chứng minh rằng các tham gia bị thiên vị bởi việc kết luận của một syllogism是否 phù hợp với niềm tin của họ, quan sát:

‘Các tham gia thường xuyên hơn (90% thời gian) sai lầm khi nói rằng một syllogism không hợp lệ là hợp lệ nếu kết luận là có thể tin được, và chủ yếu dựa vào niềm tin rather than lý luận trừu tượng.’

Khi thử nghiệm Chinchilla chống lại một loạt các syllogisms đa dạng, nhiều trong số đó kết thúc với các suy dẫn sai, các nhà nghiên cứu phát hiện ra rằng ‘sự thiên vị niềm tin thúc đẩy gần như tất cả các quyết định không có ví dụ’. Nếu mô hình ngôn ngữ tìm thấy một kết luận không nhất quán với thực tế, mô hình, theo các tác giả, bị thiên vị mạnh mẽ toward việc tuyên bố luận cứ cuối cùng là không hợp lệ, ngay cả khi luận cứ cuối cùng là một suy dẫn logic của các câu lệnh trước.

Kết quả không có ví dụ cho Chinchilla (không có ví dụ là cách mà hầu hết các đối tượng thử nghiệm sẽ nhận được những thách thức này, sau khi giải thích quy tắc hướng dẫn), minh họa sự khác biệt lớn giữa khả năng tính toán của máy tính và khả năng của mô hình NLP để điều hướng loại thách thức logic ‘trù tính’ này.

Nhiệm vụ Wason

Đối với thử nghiệm thứ ba, thử nghiệm logic Wason thậm chí còn thách thức hơn đã được tạo thành một số phiên bản khác nhau cho mô hình ngôn ngữ giải quyết.

Nhiệm vụ Wason, được tạo ra vào năm 1968, rõ ràng rất đơn giản: các đối tượng được hiển thị bốn lá bài, và được thông báo một quy tắc tùy ý như ‘Nếu một lá bài có một ‘D’ trên một mặt, thì nó có một ‘3’ trên mặt kia.’ Các mặt lá bài có thể nhìn thấy hiển thị ‘D’, ‘F’, ‘3’ và ‘7’.

Các đối tượng sau đó được hỏi họ cần lật những lá bài nào để xác minh liệu quy tắc có đúng hay không.

Giải pháp chính xác trong ví dụ này là lật lá bài ‘D’ và ‘7’. Trong các thử nghiệm ban đầu, nó đã được phát hiện ra rằng trong khi hầu hết các đối tượng (con người) sẽ chọn đúng ‘D’, họ có nhiều khả năng chọn ‘3’ hơn ‘7’, nhầm lẫn phản đề của quy tắc (‘không 3 ngụ ý không D’) với phản đề (‘3 ngụ ý D’, không được suy dẫn logic).

Các tác giả lưu ý rằng tiềm năng cho niềm tin trước đó can thiệp vào quá trình logic ở các đối tượng con người, và lưu ý thêm rằng ngay cả các nhà toán học và sinh viên toán học thường đạt điểm dưới 50% trong nhiệm vụ này.

Tuy nhiên, khi lược đồ của một nhiệm vụ Wason ở một cách nào đó phản ánh kinh nghiệm thực tế của con người, hiệu suất truyền thống tăng lên tương ứng.

Các tác giả quan sát, tham khảo các thí nghiệm trước:

‘[Nếu] các lá bài hiển thị tuổi và đồ uống, và quy tắc là “nếu họ đang uống rượu, thì họ phải từ 21 tuổi trở lên” và hiển thị các lá bài có ‘bia’, ‘nước ngọt’, ’25’, ’16’, hầu hết các tham gia sẽ chọn đúng lá bài hiển thị ‘bia’ và ’16’.’

Để kiểm tra hiệu suất của mô hình ngôn ngữ trên các nhiệm vụ Wason, các nhà nghiên cứu đã tạo ra các quy tắc thực tế và tùy ý khác nhau, một số có tính năng ‘nonsense’ từ, để xem liệu AI có thể thâm nhập vào ngữ cảnh của nội dung để phân biệt những ‘lá bài ảo’ nào để lật.

Một số thử nghiệm Wason Selection Task được trình bày trong các thử nghiệm.

Đối với các thử nghiệm Wason, mô hình hoạt động tương đương với con người trên các nhiệm vụ ‘thực tế’ (không phải ‘nonsense’).

Kết quả không có ví dụ cho nhiệm vụ Wason Selection Task của Chinchilla, với mô hình hoạt động tốt hơn may mắn, ít nhất là đối với các quy tắc ‘thực tế’.

Bài báo nhận xét:

‘Điều này phản ánh các phát hiện trong tài liệu của con người: con người chính xác hơn nhiều khi trả lời nhiệm vụ Wason khi nó được trình bày trong các tình huống thực tế hơn là các quy tắc tùy ý về thuộc tính trừu tượng.’

Giáo dục chính thức

Các phát hiện của bài báo đặt ra tiềm năng lý luận của các hệ thống NLP quy mô lớn trong bối cảnh của những hạn chế của chúng, mà chúng ta dường như đang truyền cho các mô hình, thông qua các tập dữ liệu thực tế khổng lồ mà chúng được cung cấp. Vì hầu hết chúng ta không phải là thiên tài, nên các mô hình cũng không phải là thiên tài, mà các tham số của chúng được thông báo bởi những hạn chế của con người.

Ngoài ra, công việc mới kết luận, chúng ta ít nhất có lợi thế của một giai đoạn giáo dục hình thành lâu dài, và các động lực xã hội, tài chính và thậm chí tình dục bổ sung mà tạo thành mệnh lệnh con người. Tất cả những gì mà các mô hình NLP có thể đạt được là các hành động kết quả của những yếu tố môi trường này, và chúng dường như đang tuân theo con người bình thường hơn là con người đặc biệt.

Các tác giả cho biết:

‘Kết quả của chúng tôi cho thấy rằng các hiệu ứng nội dung có thể xuất hiện từ việc đào tạo một mô hình biến đổi lớn để bắt chước ngôn ngữ được tạo ra bởi văn hóa con người, mà không kết hợp các cơ chế nội bộ của con người. ‘

‘Nói cách khác, cả mô hình ngôn ngữ và con người đều đạt được những thiên vị nội dung này – nhưng từ những kiến trúc, kinh nghiệm và mục tiêu đào tạo rất khác nhau.’

Do đó, họ đề xuất một loại ‘đào tạo quy nạp’ trong lý luận thuần túy, đã được chứng minh cải thiện hiệu suất mô hình cho toán học và lý luận chung. Họ cũng lưu ý rằng các mô hình ngôn ngữ đã được đào tạo hoặc điều chỉnh theo hướng các hướng dẫn tốt hơn ở mức độ trừu tượng hoặc tổng quát, và để xác minh, sửa hoặc loại bỏ thiên vị của chính chúng.

* Tôi đã chuyển đổi các trích dẫn nội tuyến thành liên kết.

Được xuất bản lần đầu vào ngày 15 tháng 7 năm 2022.