Vai trò của Trí tuệ nhân tạo trong việc Curating Bộ nhớ, Định danh và Di sản

Loài người hiện nay chụp nhiều ảnh hơn trong hai phút so với số ảnh được chụp trong toàn bộ thế kỷ 19. Hàng tỷ ảnh được tạo ra hàng ngày. Đối với nhiều cá nhân, một chiếc điện thoại thông minh chứa 10.000, 20.000, đôi khi 50.000 hình ảnh, và con số này chỉ tiếp tục tăng. Đối với một máy, đây là một tập dữ liệu hình ảnh có quy mô phi thường. Đối với con người, đó là một điều gì đó hoàn toàn khác.

Đây là một bản ghi của những sự kiện mới, sinh nhật quan trọng, thăm bệnh viện và kỳ nghỉ, đám cưới và đám tang. Nó chứa hình ảnh cuối cùng của một ông bà, hình ảnh đầu tiên của một đứa trẻ mới sinh, hình ảnh mờ được chụp trong những khoảnh khắc trước một tai nạn. Những hình ảnh này không chỉ đơn giản là các tệp cần được phân loại, mà còn là những mảnh ghép của bản dạng cá nhân.

Đối với những người chúng tôi đang xây dựng Trí tuệ nhân tạo hoạt động trực tiếp với thư viện ảnh của người dùng, quy mô này tạo ra một thách thức rất đặc biệt. Chúng tôi không còn xây dựng các công cụ để quản lý thư viện truyền thông. Chúng tôi đang thiết kế các hệ thống ảnh hưởng đến cách người dùng nhớ lại và nhớ lại cuộc sống của mình. Và sự thay đổi đó, kết hợp với quy mô dữ liệu chưa từng có, đòi hỏi một mô hình tin cậy cơ bản khác.

Nội dung nhạy cảm là một phần của cuộc sống hàng ngày

Công nghệ tầm nhìn máy tính thường được sử dụng để phát hiện khuôn mặt, nụ cười, địa danh và hoạt động. Khi chúng tôi áp dụng những kỹ thuật đó vào thư viện ảnh cá nhân, chúng có thể nhóm các ảnh tương tự, gợi ý các điểm nổi bật và tạo ra ‘kỷ niệm’ để người dùng nhớ lại và suy ngẫm.

Thư viện ảnh cá nhân đang trở nên giống như một cuốn nhật ký ngày càng tăng. Nhiều người trong chúng tôi tự nhiên伸 tay đến điện thoại để chụp những khoảnh khắc hàng ngày, biết rằng chúng sẽ được lưu trữ – ngay cả khi chúng tôi không bao giờ quay lại với chúng. Trong ý nghĩa đó, thư viện ảnh của chúng tôi trở thành một bản ghi không lọc của cuộc sống khi nó diễn ra, chứa đựng những khoảnh khắc vui vẻ, đau đớn hoặc tầm thường.

Ở quy mô nhỏ, tổ chức ảnh tự động cảm thấy trực quan và hữu ích. Nhưng thư viện ảnh cá nhân hiện nay thường chứa hàng chục nghìn hình ảnh. Trong thực tế, các hệ thống như vậy phải đưa ra hàng nghìn quyết định nhỏ thay mặt người dùng: những khuôn mặt nào nên được ưu tiên, những ảnh nào đại diện tốt nhất cho một năm, và những khoảnh khắc nào xứng đáng được đưa ra ánh sáng. Ở quy mô đó, thậm chí một tỷ lệ lỗi nhỏ cũng trở nên có ý nghĩa về mặt cảm xúc. Một tỷ lệ phân loại sai 1% trên một thư viện 20.000 ảnh có thể dẫn đến hàng trăm hình ảnh được hiển thị trong bối cảnh sai hoặc bị hiểu lầm hoàn toàn.

Một điều bạn học nhanh khi làm việc với thư viện ảnh thực là tần suất xuất hiện của những khoảnh khắc nhạy cảm cùng với những khoảnh khắc hàng ngày. Bệnh viện, đám tang, những khoảnh khắc khó khăn – cùng với những lựa chọn sản phẩm ưu tiên sự kìm chế. Nhưng cũng quan trọng không kém là việc nhận ra những hạn chế của việc giải thích tự động.

Hoàn toàn hiểu được ý nghĩa của một hình ảnh đối với một cá nhân cụ thể là điều hiếm khi xảy ra. Vai trò của Trí tuệ nhân tạo không phải là quyết định ý nghĩa thay mặt cho ai, mà là giúp đưa ra những khoảnh khắc mà người dùng có thể muốn nhớ lại và suy ngẫm theo cách phù hợp với họ. Trong một thế giới nơi các công cụ kỹ thuật số ngày càng định hình cách chúng tôi tổ chức cuộc sống, album ảnh vẫn còn rất cá nhân.

Địa điểm xử lý quan trọng

Cũng có một câu hỏi cấu trúc về cách và nơi hình ảnh được xử lý. Các hệ thống Trí tuệ nhân tạo dựa trên đám mây tổng hợp và phân tích lượng lớn dữ liệu từ xa – một mô hình đã cho phép những tiến bộ phi thường về khả năng.

Khi đối phó với thư viện ảnh cá nhân, tuy nhiên, sự nhạy cảm về mặt cảm xúc là rất lớn. Hình ảnh của trẻ em, những khoảnh khắc gia đình thân mật, và thậm chí cả những trải nghiệm cuối đời là những bản ghi cá nhân nhất mà mọi người sở hữu. Bất kỳ ai xây dựng công nghệ tương tác với loại dữ liệu này nhanh chóng nhận ra rằng các quyết định về kiến trúc không thuần túy là kỹ thuật. Việc gửi hình ảnh đến máy chủ từ xa để phân tích có thể cảm thấy xâm phạm, ngay cả khi có những biện pháp bảo vệ mạnh mẽ.

Những tiến bộ trong phần cứng di động đang làm cho việc xử lý thư viện ảnh lớn trực tiếp trên thiết bị ngày càng khả thi. Điều này cho phép hiểu biết hình ảnh tinh vi mà không cần xuất toàn bộ bộ sưu tập sang đám mây. Trong bối cảnh này, kiến trúc kỹ thuật trở thành sự phản ánh của giá trị. Quyết định về nơi xử lý diễn ra có thể trực tiếp ảnh hưởng đến mức độ kiểm soát mà cá nhân duy trì đối với những ký ức của mình.

Đạo đức của bộ nhớ tự động

Khi Trí tuệ nhân tạo chỉnh sửa ảnh, nó ảnh hưởng đến cách mọi người nhớ lại cuộc sống của mình. Một hệ thống chọn “tốt nhất của năm” ảnh ngầm quyết định những khoảnh khắc nào quan trọng nhất. Một tính năng nhấn mạnh những khuôn mặt nhất định thường xuyên hơn có thể tinh vi định hình cách các mối quan hệ được ưu tiên về mặt hình ảnh.

Không giống như những sai lầm trong tối ưu hóa quảng cáo hoặc dự báo hậu cần, những sai lầm trong việc chỉnh sửa bộ nhớ là cá nhân. Việc đưa ra một hình ảnh không đúng lúc có thể bất ngờ hồi sinh nỗi đau. Một mối quan hệ có ý nghĩa có thể bị đại diện dưới mức chỉ vì một thuật toán không nhận ra tầm quan trọng của nó. Theo thời gian, những lựa chọn tự động này có thể âm thầm ảnh hưởng đến cách mọi người kể lại cuộc sống của mình.

Điều này đặt ra những câu hỏi khó. Liệu một thuật toán có nên quyết định những ảnh nào đại diện tốt nhất cho một người đã qua đời? Liệu nó có nên подав những hình ảnh mà nó coi là đau đớn, hoặc để lại lựa chọn đó hoàn toàn cho người dùng? Làm thế nào nó nên hành xử khi nó không thể tự tin xác định liệu một cảnh là lễ hội hay u ám?

Thiết kế đạo đức trong không gian này phụ thuộc vào sự khiêm tốn. Các hệ thống nên minh bạch về khi Trí tuệ nhân tạo đang thực hiện các lựa chọn và làm cho nó dễ dàng để xem lại, chỉnh sửa và ghi đè các lựa chọn tự động. Ngưỡng tin cậy để đưa ra nội dung nhạy cảm có thể nên được thiết lập với sự thận trọng đặc biệt.

Tin cậy là một yêu cầu của con người

Những cuộc tranh luận công khai xung quanh đạo đức Trí tuệ nhân tạo thường tập trung vào thông tin sai lệch, thiên vị hoặc đào tạo mô hình lớn. Những cuộc trò chuyện đó当然 cần thiết và quan trọng. Nhưng ngoài những tiêu đề, có một chiều không gian khác của đạo đức Trí tuệ nhân tạo đang diễn ra trong các ngôi nhà gia đình mỗi ngày.

Chỉ có một số ít nhóm hiện đang xây dựng các hệ thống Trí tuệ nhân tạo chỉnh sửa thư viện ảnh cá nhân ở quy mô toàn cầu. Chúng tôi đang đưa ra những quyết định ảnh hưởng đến cách lịch sử cá nhân của hàng triệu người được tổ chức và nhớ lại.

Khi ai đó mở thư viện ảnh của mình, họ đang tương tác với câu chuyện của chính mình. Nếu các hệ thống Trí tuệ nhân tạo xử lý câu chuyện đó một cách cẩu thả, tác động có thể trở nên cá nhân sâu sắc. Một thông báo không đúng lúc hoặc một trình diễn tự động không nhạy cảm có thể mở lại những vết thương đã mất nhiều năm để chữa lành.

Làm việc trong không gian này khiến trách nhiệm đó cảm thấy đặc biệt cụ thể. Thiết kế Trí tuệ nhân tạo cho nhiếp ảnh cá nhân do đó đòi hỏi một tâm trạng khác – đặc biệt là khi quy mô chụp ảnh tiếp tục tăng. Sự nhạy cảm về mặt cảm xúc không thể được gắn vào sau khi triển khai, và quyền riêng tư không thể được xử lý như một thiết lập nền. Những cân nhắc này phải định hình hệ thống từ đầu.

Khi khả năng của Trí tuệ nhân tạo tiếp tục mở rộng, sự cám dỗ sẽ là tự động hóa nhiều hơn cuộc sống kỹ thuật số của chúng tôi. Trong lĩnh vực ảnh cá nhân, tuy nhiên, tiến bộ nên được đo lường khác. Thay vì hiệu quả hoặc tối ưu hóa, thành công nằm ở việc xây dựng các hệ thống nhận ra trọng lượng cảm xúc mà những hình ảnh chúng chạm vào.

Những bức ảnh của chúng tôi ghi lại ai chúng tôi là và ai chúng tôi đã từng là. Bất kỳ Trí tuệ nhân tạo nào được giao phó cho chúng phải nhận ra rằng nó đang hoạt động trong một trong những không gian con người nhất mà công nghệ có thể tham gia.