Tại Sao Trí Tuệ Nhân Tạo Yêu Thích Viết Về Người Hướng Dẫn Đèn Hải Đăng?

Khi được yêu cầu ‘viết một câu chuyện’, ChatGPT và các mô hình ngôn ngữ hàng đầu khác dường như tránh vi phạm bản quyền bằng cách sử dụng một nhóm nhỏ và kỳ lạ các yếu tố câu chuyện, khi bạn yêu cầu mô hình viết một câu chuyện.

Một nghiên cứu mới từ Đại học Cornell đã phát hiện ra rằng các mô hình ngôn ngữ hàng đầu dường như có một sự ám ảnh kỳ lạ với một lựa chọn rất hẹp các yếu tố câu chuyện, khi bạn yêu cầu mô hình viết một câu chuyện. Sau khi yêu cầu bốn mô hình LLM viết 20.000 câu chuyện, họ phát hiện ra rằng 88% số câu chuyện được tạo ra có ít nhất một trong 11 token rất cụ thể trong danh mục ‘vị trí’, ‘tên’, hoặc ‘nghề nghiệp’:

Sự xuất hiện của các từ khóa không thể xảy ra, được biểu diễn ở đây bằng phần triệu, được thu thập bởi phân tích của các nhà nghiên cứu về 20.000 câu chuyện được tạo ra bởi LLM. Nguồn

11 từ xuất hiện thường xuyên nhất trong 12 triệu từ được tạo ra bởi LLM cho nghiên cứu là các tên elias, mara, elara; các nghề nghiệp người hướng dẫn, người làm bánh, thị trưởng, người làm đồng hồ, người đánh cá, thủ thư, và đạo diễn; và vị trí đèn hải đăng:

Các mô hình được thử nghiệm là Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini, và OLMo 7b Thinking. Tất cả đều được yêu cầu với một trong năm yêu cầu: ‘Viết một câu chuyện’; ‘Xin viết một câu chuyện’; ‘Viết cho tôi một câu chuyện’; ‘Kể cho tôi một câu chuyện’; hoặc ‘Xin kể cho tôi một câu chuyện’.

Tò mò về việc liệu hội chứng này có hiện diện trong các mô hình có sẵn tại thời điểm viết, tôi đã thử nghiệm bản thân, đầu tiên trên tài khoản ChatGPT trung cấp của tôi (liên kết đến cuộc trò chuyện đây). Không cần phải chọn lọc – ChatGPT-5.5 đã đi thẳng vào tài liệu mà các nhà nghiên cứu dự đoán, trong lần thử đầu tiên:

ChatGPT-5.5 ngay lập tức hỗ trợ các phát hiện ban đầu của bài báo. Nguồn

Thử nghiệm lại trên một tài khoản ChatGPT miễn phí mà tôi chưa sử dụng trong hơn một năm, trong một cửa sổ trình duyệt riêng tư của Firefox, và thử lại (liên kết đến cuộc trò chuyện đây). Một lần nữa (giả sử rằng OpenAI không sử dụng một địa chỉ IP chung để cross-populate các tài khoản khác nhau), ChatGPT đã thành công:

Tài khoản ChatGPT #2 theo đuổi cùng một ám ảnh và cuốn sách nhỏ các tên và chủ đề được phác thảo trong bài báo mới. ‘Mira’ nằm trong top 20 của các tác giả. Nguồn

Đáng chú ý là những phiên bản GPT này là một cấp độ cao hơn so với GPT-5.4 được thử nghiệm trong bài báo.

Thử nghiệm với các mô hình Gemini khác nhau không thể hiện ra hội chứng này ban đầu, cho đến khi tôi thay đổi mô hình cụ thể sang Gemini 3.1 Flash-Lite – và sau đó, trong lần thử thứ ba (nhưng lần đầu tiên với mô hình này), mẫu xuất hiện ngay lập tức (liên kết đây):

Google Gemini 3.1 Flash-Lite. Nguồn

Thử nghiệm thêm với các mô hình Gemini khác nhau luôn luôn cho ra chủ đề đèn hải đăng, mặc dù với các biến thể không được đề cập trong ‘top 11’, chẳng hạn như tên ‘Thomas’, và trong một biến thể khác, tên của tôi là nhân vật chính.

Tuy nhiên, tại thời điểm viết, các phát hiện của bài báo rất dễ được chứng minh.

Đèn Hải Đăng Trong Thiên Nhiên

Những tâm hồn vĩ đại suy nghĩ giống nhau: một tuần trước, trước khi xuất bản bài báo mới, nhà viết phần mềm Daniel May đã chỉ ra sự trùng hợp của Elias và người hướng dẫn đèn hải đăng được trích xuất bởi các nhà nghiên cứu*, rõ ràng là đã nhận thấy nó một cách ngẫu nhiên. Ông đã tiếp tục thử nghiệm tám biến thể của Gemini, DeepSeek, Qwen và Gemma, mà ông đã tìm thấy sẽ sản xuất đèn hải đăng meme và ‘Elias Thorne’ là một nhân vật*. Tuy nhiên, việc phát hiện ban đầu này không mở rộng đến phạm vi rộng lớn hơn của các chủ đề nội dung liên tục được phác thảo trong bài báo mới.

Tò mò về việc liệu những chủ đề lặp lại, tên và vị trí này đã từng vượt ra ngoài ranh giới của một cuộc trò chuyện, tôi đã tìm kiếm một số từ khóa và chủ đề hàng đầu trên Google và tìm thấy một số lượng đáng kể các bài đăng dường như đã thể hiện chúng:

Ba ví dụ về meme trong đầu ra. Xem dưới đây để biết liên kết nguồn.

May đã xác định Elias Thorne (thay vì chỉ ‘Elias’) là một meme LLM liên tục, và đã đăng các ảnh chụp màn hình từ Amazon, nơi tên này đã được sử dụng làm tiêu đề cho các tác giả của các cuốn sách đa dạng, bao gồm cả sách y khoa.

Thay vào đó, tôi đã tìm kiếm và tìm thấy nội dung dường như đã sử dụng các chủ đề liên tục từ một LLM, bao gồm một bài đăng X của một câu chuyện (phiên bản lưu trữ đây); một tác phẩm hư cấu (phiên bản lưu trữ đây); và một câu chuyện với lời kể trên YouTube (lưu trữ đây). Có rất nhiều thứ để khám phá, nhưng thời gian không cho phép.

Một Khát Khao Đối Với Quá Khứ

Vậy nhiều cho quan sát và serendipity. Trong khi không có ‘tài liệu ma thuật’ nào trong dữ liệu đào tạo đã xuất hiện với tất cả hoặc hầu hết các sự lặp lại, các tác giả của bài báo mới (được đặt tên Elias trong Đèn Hải Đăng, Lần Nữa? Chẩn Đoán Thiếu Đa Dạng Trong Câu Chuyện LLM, từ hai nhà nghiên cứu tại Đại học Cornell) suy đoán rằng các bộ lọc bản quyền trong phát triển trí tuệ nhân tạo có thể đang hạn chế đầu ra hư cấu trong LLMs thành tài liệu ngoài bản quyền.

Các tác giả tuyên bố:

‘Chúng tôi phát hiện ra rằng sự thống trị của các câu chuyện “Elias trong Đèn Hải Đăng” không thể được giải thích bởi sự phổ biến trong dữ liệu trước hoặc sau đào tạo. Chúng tôi suy đoán rằng các mô hình được đào tạo để tránh tham chiếu đến các nhân vật có bản quyền và nội dung người lớn trong quá trình căn chỉnh nhưng hoãn lại câu hỏi này cho công việc trong tương lai.’

Bảng so sánh cho thấy tần suất xuất hiện của các từ lặp lại trong các câu chuyện được tạo ra bởi LLM, so với các tác phẩm văn học được xuất bản, các câu chuyện hư cấu trên web và các tập dữ liệu sau đào tạo.

Trong nghiên cứu, các tác giả phát hiện ra rằng 11 từ được nhấn mạnh xuất hiện trong 88% số câu chuyện được tạo ra, và rằng có ‘không có sự khác biệt đáng kể giữa các mô hình’. Họ nhấn mạnh rằng những từ này là không phổ biến trong văn học tiếng Anh được xuất bản, và rằng dữ liệu sau đào tạo (dữ liệu được thiết kế để điều kiện và căn chỉnh mô hình vào ‘sử dụng chấp nhận được’) có thể chịu trách nhiệm.

Bài báo tuyên bố:

‘Một ví dụ điển hình được hiển thị [dưới] nhấn mạnh ba yếu tố phổ biến trên gần như tất cả 20.000 câu chuyện: một vị trí (19.864 câu chuyện), một tên (19.864 câu chuyện), và một nghề nghiệp (15.807 câu chuyện). ‘

‘Trên thực tế, vị trí cụ thể (“đèn hải đăng”), tên (“Elias”), và nghề nghiệp (“người hướng dẫn”) trong câu chuyện này xuất hiện ở một số kết hợp trên 66,6% tất cả các câu chuyện được tạo ra. Ánh sáng cũng là một chủ đề phổ biến: 56% câu chuyện được tạo ra bởi Claude có tiêu đề “Bí mật của Người Hướng Dẫn Đèn Hải Đăng” và từ “ánh sáng” xuất hiện trong 16.784 câu chuyện với tốc độ trung bình 3,2 lần mỗi câu chuyện.’

Ví dụ này, theo bài báo, được viết bởi Google Gemini 3.1 Flash-Lite, trong phản hồi với yêu cầu ‘Viết một câu chuyện’.

Đáng chú ý là các tác giả của nghiên cứu xác định một hoài niệm hoặc xu hướng atavistic trên tất cả các từ khóa và tên được dẫn xuất.

Đuổi Theo Các Đặc Điểm

Để kiểm tra xem các câu chuyện lặp lại ‘đèn hải đăng’ có thể được giải thích bằng sự phơi nhiễm thông thường với hư cấu, các so sánh đã được thực hiện giữa các từ lặp lại yêu thích của mô hình và một số tập dữ liệu tiếng Anh lớn. Hư cấu đương đại đã được kiểm tra thông qua CONLIT, một tập dữ liệu chứa 2.700 tiểu thuyết tiếng Anh được xuất bản giữa năm 2007 và 2021, bao gồm 12 thể loại và tổng cộng khoảng 287 triệu từ.

‘Elias’ xuất hiện khoảng 900 lần thường xuyên hơn trong các câu chuyện được tạo ra so với trong các tác phẩm văn học được xuất bản. Hư cấu nghiệp dư từ cộng đồng /r/writingprompts của Reddit sản xuất tần suất tương tự, cho thấy rằng mẫu này không phản ánh thói quen kể chuyện của con người.

Cùng một mẫu vẫn giữ khi dữ liệu trước đào tạo được kiểm tra. Sử dụng OLMo 3 corpus, chứa khoảng 3,89 tỷ tài liệu được viết chủ yếu bởi con người, được rút ra một phần từ Common Crawl, các nhà nghiên cứu tìm thấy rằng các từ lặp lại ‘Core’ hiếm khi xuất hiện.

Để xác định nơi các câu chuyện lặp lại ‘Core’ đến từ đâu, mỗi câu chuyện trong dữ liệu sau đào tạo của OLMo 3 đã được chấm điểm cho sự hiện diện của một hoặc nhiều token ‘Core’ (tức là, sự hiện diện của Elara, Mara, v.v.). Hầu hết đều được dự kiến sẽ xuất hiện trong các tập dữ liệu tinh chỉnh giám sát (SFT), vì WildChat và các nguồn liên quan đã đóng góp 59.266 câu chuyện cho OLMo 3.

Tuy nhiên, chỉ 1.803 câu chuyện chứa các từ ‘Core’, trong khi các tập dữ liệu được sử dụng cho DPO và học tăng cường cho thấy nồng độ cao hơn.

Tổng thể, từ vựng ‘Core’ lặp lại được truy tìm đến chỉ 3.053 câu chuyện, chiếm 3,8% tất cả các câu chuyện sau đào tạo được kiểm tra. Không có khả năng thống kê nào cho một tập hợp con nhỏ như vậy của corpus sẽ thống trị nó theo cách được thể hiện.

Bài báo kết luận:

‘Khi được đưa ra ít hướng dẫn, các mô hình tiền phong hiện tại viết câu chuyện bằng một danh mục hẹp các tên, địa điểm và nghề nghiệp. Các nhân vật lặp lại trong những câu chuyện này bao gồm Elias, một người hướng dẫn đèn hải đăng. Elias là không bình thường; tên này là không phổ biến trong văn học, dữ liệu web và thậm chí cả dữ liệu sau đào tạo.’

Kết Luận

Trong sự vắng mặt của bất kỳ một tác phẩm văn học nào (hoặc thậm chí một loạt) có tính năng 11 từ hàng đầu mà các tác giả xác định, không rõ bằng cách nào bộ sưu tập từ này đã tích lũy và tự liên kết vào các mức thấp nhất của nhiều mô hình ngôn ngữ lớn (bất chấp sự đa dạng của dữ liệu đào tạo và phương pháp của chúng).

Ngay cả khi tranh luận của các nhà nghiên cứu về hiệu ứng hạn chế của các bộ lọc bản quyền là chính xác, một ‘biển’ văn học kinh điển trong quy trình đào tạo nên đã ngăn chặn bộ sưu tập từ kỳ lạ này khỏi việc thống trị đầu ra của một yêu cầu ‘viết’ không đủ điều kiện.

Giả sử, tuy nhiên, rằng lý thuyết này cho rằng một lượng lớn văn học kinh điển đã được bao gồm trong quy trình đào tạo ở tất cả. Điều đó không thể xảy ra, vì những gì được mong muốn là không phải các mô hình sẽ tạo ra các tác phẩm giả Dickens, mà là các mô hình sẽ xử lý từ vựng hiện đại và phù hợp với nhu cầu kinh doanh hiện tại. Khối lượng thậm chí của văn học tiền công nghiệp sẽ loại trừ việc bao gồm nó.

Nếu có một câu chuyện riêng biệt có tính năng một số kết hợp của các khía cạnh ‘ám ảnh’ mà các tác giả lưu ý, nó sẽ dễ dàng tìm thấy; các tác giả chính họ không thể tìm thấy nó, và tìm kiếm thông thường trong thời đại trước AI không tìm thấy bất kỳ ứng cử viên nào. Có lẽ, nếu ‘hội chứng đèn hải đăng’ đạt được cùng mức nổi tiếng với dashes AI, một số cơ quan thẩm quyền học thuật sẽ đưa ra câu trả lời.

* Tôi không thể đi sâu vào bài viết của May, vì những lý do có thể trở nên rõ ràng khi một người đọc nó.

Được xuất bản lần đầu vào thứ Tư, ngày 27 tháng 5 năm 2026. Được sửa đổi trong 30 phút đầu tiên để sửa liên kết Anthropic.