Trí tuệ nhân tạo sinh (Generative AI): Ý tưởng đằng sau CHATGPT, DALL-E, Midjourney và nhiều hơn

Thế giới nghệ thuật, giao tiếp và cách chúng ta nhận thức thực tại đang thay đổi nhanh chóng. Nếu nhìn lại lịch sử đổi mới của con người, chúng ta có thể xem xét việc phát minh ra bánh xe hoặc khám phá ra điện như những bước nhảy vĩ đại. Ngày nay, một cuộc cách mạng mới đang diễn ra – bắc cầu giữa sự sáng tạo của con người và tính toán của máy móc. Đó là Trí tuệ nhân tạo sinh (Generative AI).

Mô hình sinh (Generative models) đã làm mờ ranh giới giữa con người và máy móc. Với sự ra đời của các mô hình như GPT-4, sử dụng các mô-đun biến đổi (transformer), chúng ta đã tiến gần hơn đến việc tạo ra ngôn ngữ tự nhiên và phong phú. Những tiến bộ này đã thúc đẩy các ứng dụng trong việc tạo tài liệu, hệ thống đối thoại của rô-bốt và thậm chí cả việc sáng tác nhạc tổng hợp.

Các quyết định gần đây của các công ty công nghệ lớn (Big-Tech) nhấn mạnh tầm quan trọng của nó. Microsoft (MSFT ) đã loại bỏ ứng dụng Cortana của mình trong tháng này để ưu tiên các đổi mới về Trí tuệ nhân tạo sinh (Generative AI) mới, như Bing Chat. Apple (AAPL ) cũng đã dành một phần đáng kể trong $22,6 tỷ ngân sách nghiên cứu và phát triển cho Trí tuệ nhân tạo sinh, như đã được chỉ ra bởi CEO Tim Cook.

Một kỷ nguyên mới của các mô hình: Sinh (Generative) so với Phân biệt (Discriminative)

Câu chuyện về Trí tuệ nhân tạo sinh không chỉ là về các ứng dụng của nó mà còn về cơ chế hoạt động bên trong. Trong hệ sinh thái trí tuệ nhân tạo, có hai loại mô hình: phân biệt (discriminative) và sinh (generative).

Các mô hình phân biệt là những gì mà hầu hết mọi người gặp phải trong cuộc sống hàng ngày. Các thuật toán này lấy dữ liệu đầu vào, chẳng hạn như văn bản hoặc hình ảnh, và ghép nó với đầu ra mục tiêu, như một bản dịch hoặc chẩn đoán y tế. Chúng về việc ánh xạ và dự đoán.

Các mô hình sinh, mặt khác, là những nhà sáng tạo. Chúng không chỉ giải thích hoặc dự đoán; chúng tạo ra các đầu ra phức tạp mới từ các vector số thường không liên quan đến các giá trị thực tế.

Công nghệ đằng sau các mô hình sinh

Các mô hình sinh nợ sự tồn tại của chúng cho các mạng nơ-ron sâu (deep neural networks), các cấu trúc tinh vi được thiết kế để bắt chước chức năng của não bộ con người. Bằng cách nắm bắt và xử lý các biến thể đa dạng trong dữ liệu, các mạng này đóng vai trò là xương sống của nhiều mô hình sinh.

Làm thế nào các mô hình sinh này được tạo ra? Thông thường, chúng được xây dựng với các mạng nơ-ron sâu, được tối ưu hóa để nắm bắt các biến thể đa dạng trong dữ liệu. Một ví dụ điển hình là Mạng đối lập sinh (Generative Adversarial Network – GAN), nơi hai mạng nơ-ron, sinh (generator) và phân biệt (discriminator), cạnh tranh và học hỏi từ nhau trong một mối quan hệ giáo viên – học sinh độc đáo. Từ các bức tranh đến chuyển đổi phong cách, từ sáng tác nhạc đến chơi game, các mô hình này đang phát triển và mở rộng theo những cách trước đây không thể tưởng tượng được.

Điều này không dừng lại ở GAN. Máy tự động mã hóa biến thể (Variational Autoencoders – VAEs) là một yếu tố quan trọng khác trong lĩnh vực mô hình sinh. VAEs nổi bật với khả năng tạo ra hình ảnh siêu thực từ những con số ngẫu nhiên. Làm thế nào? Xử lý những con số này thông qua một vector ẩn (latent vector) để tạo ra nghệ thuật phản ánh sự phức tạp của thẩm mỹ con người.

Loại Trí tuệ nhân tạo sinh: Văn bản sang Văn bản, Văn bản sang Hình ảnh

Biến đổi (Transformers) & LLM

Bài báo “Chú ý là tất cả những gì bạn cần” của Google (GOOGL ) Brain đã đánh dấu một sự thay đổi trong cách chúng ta nghĩ về mô hình hóa văn bản. Thay vì các kiến trúc phức tạp và tuần tự như mạng nơ-ron hồi quy (Recurrent Neural Networks – RNNs) hoặc mạng nơ-ron tích chập (Convolutional Neural Networks – CNNs), mô hình biến đổi (Transformer) đã giới thiệu khái niệm chú ý (attention), vốn基本 là tập trung vào các phần khác nhau của văn bản đầu vào tùy thuộc vào ngữ cảnh. Một trong những lợi ích chính của điều này là sự dễ dàng song song hóa. Không giống như RNNs, xử lý văn bản tuần tự, khiến chúng khó mở rộng, các mô hình biến đổi có thể xử lý các phần của văn bản đồng thời, làm cho quá trình đào tạo nhanh hơn và hiệu quả hơn trên các tập dữ liệu lớn.

Trong một văn bản dài, không phải mọi từ hoặc câu bạn đọc đều có cùng mức độ quan trọng. Một số phần đòi hỏi sự chú ý nhiều hơn dựa trên ngữ cảnh. Đây là nơi cơ chế chú ý phát huy tác dụng.

Để hiểu điều này, hãy nghĩ về một câu: “Unite AI Xuất bản Tin tức Trí tuệ nhân tạo và Robotics.” Bây giờ, dự đoán từ tiếp theo đòi hỏi phải hiểu ngữ cảnh. Thuật ngữ ‘Robotics’ có thể gợi ý rằng từ tiếp theo có thể liên quan đến một sự tiến bộ hoặc sự kiện cụ thể trong lĩnh vực robotics, trong khi ‘Xuất bản’ có thể chỉ ra rằng ngữ cảnh tiếp theo có thể liên quan đến một bài viết gần đây hoặc một ấn phẩm.

Cơ chế chú ý trong các mô hình biến đổi được thiết kế để đạt được sự tập trung chọn lọc này. Chúng đánh giá tầm quan trọng của các phần khác nhau của văn bản đầu vào và quyết định nơi để “nhìn” khi tạo ra một phản hồi. Đây là một sự khác biệt so với các kiến trúc cũ hơn như RNNs, những kiến trúc này cố gắng nén bản chất của tất cả văn bản đầu vào vào một ‘trạng thái’ hoặc ‘bộ nhớ’ duy nhất.

Cơ chế chú ý có thể được so sánh với một hệ thống lấy khóa – giá trị. Khi cố gắng dự đoán từ tiếp theo trong một câu, mỗi từ trước đó cung cấp một ‘khóa’ gợi ý về sự liên quan tiềm năng của nó, và dựa trên mức độ phù hợp của những khóa này với ngữ cảnh hiện tại (hoặc truy vấn), chúng đóng góp một ‘giá trị’ hoặc trọng số vào dự đoán.

Các mô hình học sâu tiên tiến này đã được tích hợp một cách liền mạch vào nhiều ứng dụng, từ việc cải tiến công cụ tìm kiếm của Google với BERT đến GitHub’s Copilot, tận dụng khả năng của các mô hình ngôn ngữ lớn (LLMs) để chuyển đổi các đoạn mã đơn giản thành mã nguồn hoàn chỉnh.

Các mô hình ngôn ngữ lớn (LLMs) như GPT-4, Bard và LLaMA là những cấu trúc khổng lồ được thiết kế để giải mã và tạo ra ngôn ngữ của con người, mã và nhiều hơn nữa. Kích thước khổng lồ của chúng, từ hàng tỷ đến hàng nghìn tỷ tham số, là một trong những đặc điểm định nghĩa. Những LLMs này được cho ăn với một lượng lớn dữ liệu văn bản, cho phép chúng nắm bắt được sự tinh vi của ngôn ngữ con người. Một đặc điểm nổi bật của những mô hình này là khả năng học “ít mẫu” (few-shot). Không giống như các mô hình thông thường đòi hỏi một lượng lớn dữ liệu đào tạo cụ thể, LLMs có thể tổng quát hóa từ một số lượng rất nhỏ các ví dụ (hoặc “pít”).

Tình trạng của các mô hình ngôn ngữ lớn (LLMs) tính đến giữa năm 2023

Làm thế nào để sử dụng LLMs?

LLMs có thể được sử dụng theo nhiều cách, bao gồm:

1. Sử dụng trực tiếp: Sử dụng một LLM đã được đào tạo trước để tạo văn bản hoặc xử lý ngôn ngữ mà không cần đào tạo lại.
2. Đào tạo lại: Điều chỉnh một LLM đã được đào tạo trước cho một nhiệm vụ cụ thể, một phương pháp được gọi là chuyển giao học hỏi.
3. Tìm kiếm thông tin: Sử dụng LLMs như một phần của các kiến trúc lớn hơn để phát triển các hệ thống có thể tìm kiếm và phân loại thông tin.

Chú ý đa đầu: Tại sao chỉ có một khi bạn có thể có nhiều?

Tuy nhiên, việc dựa vào một cơ chế chú ý duy nhất có thể là hạn chế. Các từ hoặc chuỗi trong văn bản có thể có các loại liên quan hoặc liên kết khác nhau. Đây là nơi chú ý đa đầu (multi-head attention) phát huy tác dụng. Thay vì một tập hợp chú ý duy nhất, chú ý đa đầu sử dụng nhiều tập hợp, cho phép mô hình nắm bắt được nhiều loại mối quan hệ trong văn bản đầu vào. Mỗi “đầu” chú ý có thể tập trung vào các phần hoặc khía cạnh khác nhau của văn bản đầu vào, và kiến thức kết hợp của chúng được sử dụng cho dự đoán cuối cùng.

ChatGPT: Công cụ Trí tuệ nhân tạo sinh phổ biến nhất

Bắt đầu từ sự ra đời của GPT vào năm 2018, mô hình này cơ bản được xây dựng trên nền tảng 12 lớp, 12 đầu chú ý và 120 triệu tham số, chủ yếu được đào tạo trên một tập dữ liệu gọi là BookCorpus. Đây là một khởi đầu ấn tượng, cung cấp một cái nhìn về tương lai của các mô hình ngôn ngữ.

GPT-2, được công bố vào năm 2019, có một sự tăng gấp bốn lần về số lớp và đầu chú ý. Đặc biệt, số tham số của nó đã tăng vọt lên 1,5 tỷ. Phiên bản này được đào tạo từ WebText, một tập dữ liệu được làm giàu với 40GB văn bản từ các liên kết Reddit.

GPT-3, được ra mắt vào tháng 5 năm 2020, có 96 lớp, 96 đầu chú ý và một số tham số khổng lồ là 175 tỷ. Điều làm cho GPT-3 nổi bật là dữ liệu đào tạo đa dạng của nó, bao gồm CommonCrawl, WebText, Wikipedia tiếng Anh, tập đoàn sách và các nguồn khác, kết hợp lại tạo thành tổng cộng 570 GB.

Các chi tiết về cách thức hoạt động của ChatGPT vẫn còn là bí mật. Tuy nhiên, một quá trình gọi là “học tăng cường từ phản hồi của con người” (reinforcement learning from human feedback – RLHF) được biết là đóng vai trò quan trọng. Nguồn gốc từ một dự án ChatGPT trước đó, kỹ thuật này đã giúp tinh chỉnh mô hình GPT-3.5 để trở nên phù hợp hơn với các hướng dẫn viết.

Quá trình đào tạo của ChatGPT bao gồm một phương pháp ba bước:

1. Đào tạo tinh chỉnh có giám sát: Bao gồm việc tạo ra các đầu vào và đầu ra hội thoại do con người viết để tinh chỉnh mô hình GPT-3.5 cơ bản.
2. Mô hình hóa phần thưởng: Con người xếp hạng các đầu ra của mô hình dựa trên chất lượng, giúp đào tạo một mô hình phần thưởng đánh giá mỗi đầu ra dựa trên ngữ cảnh.
3. Học tăng cường: Ngữ cảnh hội thoại phục vụ như một bối cảnh nơi mô hình cơ bản đề xuất một phản hồi. Phản hồi này được đánh giá bởi mô hình phần thưởng, và quá trình được tối ưu hóa bằng cách sử dụng một thuật toán gọi là tối ưu hóa chính sách gần (proximal policy optimization – PPO).

Đối với những người mới bắt đầu với ChatGPT, một hướng dẫn bắt đầu toàn diện có thể được tìm thấy tại đây. Nếu bạn muốn tìm hiểu sâu hơn về kỹ thuật tạo mẫu (prompt engineering) với ChatGPT, chúng tôi cũng có một hướng dẫn nâng cao về các kỹ thuật tạo mẫu mới nhất và tiên tiến nhất, có sẵn tại ‘ChatGPT & Kỹ thuật tạo mẫu nâng cao: Đẩy mạnh sự tiến hóa của AI‘.

Khả năng khuếch tán và Mô hình đa phương tiện

Trong khi các mô hình như VAEs và GANs tạo ra đầu ra của chúng thông qua một lần đi qua, do đó bị giới hạn trong những gì chúng tạo ra, các mô hình khả năng khuếch tán (diffusion) đã giới thiệu khái niệm “tinh chỉnh lặp lại” (iterative refinement). Thông qua phương pháp này, chúng quay lại, tinh chỉnh sai lầm từ các bước trước, và dần dần tạo ra một kết quả được hoàn thiện hơn.

Trung tâm của các mô hình khả năng khuếch tán là nghệ thuật “làm hỏng” (corruption) và “tinh chỉnh” (refinement). Trong giai đoạn đào tạo, một hình ảnh điển hình được làm hỏng dần bằng cách thêm các mức độ nhiễu khác nhau. Sau đó, phiên bản nhiễu này được đưa vào mô hình, và mô hình cố gắng “làm sạch” (denoise) hoặc “khôi phục” (de-corrupt) nó. Qua nhiều vòng lặp của quá trình này, mô hình trở nên thành thạo trong việc phục hồi, hiểu cả sự sai lệch tinh vi và đáng kể.

Quá trình tạo ra hình ảnh mới sau khi đào tạo là thú vị. Bắt đầu từ một đầu vào hoàn toàn ngẫu nhiên, nó được tinh chỉnh liên tục bằng cách sử dụng dự đoán của mô hình. Mục tiêu là đạt được một hình ảnh hoàn hảo với số bước tối thiểu. Việc kiểm soát mức độ làm hỏng được thực hiện thông qua một “lịch trình nhiễu” (noise schedule), một cơ chế điều chỉnh mức độ nhiễu được áp dụng tại các giai đoạn khác nhau. Một bộ lập lịch, như được thấy trong các thư viện như “diffusers“, quyết định bản chất của những phiên bản nhiễu này dựa trên các thuật toán đã thiết lập.

Một kiến trúc quan trọng cho nhiều mô hình khả năng khuếch tán là U-Net – một mạng nơ-ron tích chập được thiết kế cho các nhiệm vụ yêu cầu đầu ra phản ánh chiều không gian của đầu vào. Nó là sự kết hợp của các lớp giảm kích thước và tăng kích thước, được kết nối một cách tinh vi để giữ lại dữ liệu có độ phân giải cao, điều này then chốt cho các đầu ra liên quan đến hình ảnh.

Đào sâu vào lĩnh vực mô hình sinh, DALL-E 2 của OpenAI nổi lên như một ví dụ nổi bật về sự kết hợp giữa khả năng AI văn bản và hình ảnh. Nó sử dụng một cấu trúc ba lớp:

DALL-E 2 thể hiện một cấu trúc ba lớp:

1. Bộ mã hóa văn bản: Nó chuyển đổi lời nhắc văn bản thành một bản nhúng khái niệm trong không gian ẩn. Mô hình này không bắt đầu từ đầu. Nó dựa trên tập dữ liệu đào tạo trước của OpenAI, CLIP (Contrastive Language–Image Pre-training), làm nền tảng. CLIP phục vụ như một cầu nối giữa dữ liệu hình ảnh và văn bản bằng cách học các khái niệm trực quan sử dụng ngôn ngữ tự nhiên. Thông qua một cơ chế gọi là học tương phản, nó xác định và khớp các hình ảnh với mô tả văn bản tương ứng.
2. Trước: Bản nhúng văn bản được lấy từ bộ mã hóa được chuyển đổi thành một bản nhúng hình ảnh. DALL-E 2 đã thử nghiệm cả phương pháp tự hồi quy và phương pháp khả năng khuếch tán cho nhiệm vụ này, với phương pháp khả năng khuếch tán cho thấy kết quả tốt hơn. Các mô hình tự hồi quy, như được thấy trong các mô hình biến đổi và PixelCNN, tạo ra đầu ra theo trình tự. Mặt khác, các mô hình khả năng khuếch tán, như được sử dụng trong DALL-E 2, biến đổi nhiễu ngẫu nhiên thành bản nhúng hình ảnh dự đoán với sự giúp đỡ của bản nhúng văn bản.
3. Bộ giải mã: Đây là giai đoạn cuối cùng của quá trình, nơi đầu ra hình ảnh cuối cùng được tạo ra dựa trên lời nhắc văn bản và bản nhúng hình ảnh từ giai đoạn trước. Bộ giải mã của DALL-E 2 nợ kiến trúc của mình cho một mô hình khác, GLIDE, cũng có khả năng tạo ra hình ảnh thực tế từ gợi ý văn bản.

Người dùng Python quan tâm đến Langchain nên xem hướng dẫn chi tiết của chúng tôi, bao gồm mọi thứ từ cơ bản đến kỹ thuật tiên tiến.

Ứng dụng của Trí tuệ nhân tạo sinh

Lĩnh vực văn bản

Bắt đầu với văn bản, Trí tuệ nhân tạo sinh đã được thay đổi cơ bản bởi các rô-bốt trò chuyện như ChatGPT. Dựa mạnh vào Xử lý ngôn ngữ tự nhiên (NLP) và các mô hình ngôn ngữ lớn (LLMs), những thực thể này được trang bị để thực hiện các nhiệm vụ từ tạo mã đến dịch ngôn ngữ, tóm tắt và phân tích cảm xúc. ChatGPT, ví dụ, đã thấy sự áp dụng rộng rãi, trở thành một công cụ không thể thiếu cho hàng triệu người. Điều này được tăng cường bởi các nền tảng trò chuyện AI, dựa trên LLMs như GPT-4, PaLM và BLOOM, những nền tảng này một cách dễ dàng tạo ra văn bản, hỗ trợ lập trình và thậm chí cả lý luận toán học.

Từ góc độ thương mại, những mô hình này đang trở nên vô giá. Các doanh nghiệp sử dụng chúng cho nhiều hoạt động, bao gồm quản lý rủi ro, tối ưu hóa hàng tồn kho và dự báo nhu cầu. Một số ví dụ đáng chú ý bao gồm Bing AI, Google’s BARD và API ChatGPT.

Nghệ thuật

Thế giới của hình ảnh đã chứng kiến sự thay đổi đáng kể với Trí tuệ nhân tạo sinh, đặc biệt là kể từ khi DALL-E 2 được giới thiệu vào năm 2022. Công nghệ này, có thể tạo ra hình ảnh từ lời nhắc văn bản, có cả ý nghĩa nghệ thuật và chuyên nghiệp. Ví dụ, midjourney đã tận dụng công nghệ này để tạo ra hình ảnh thực tế ấn tượng. Bài đăng gần đây này làm sáng tỏ midjourney trong một hướng dẫn chi tiết, giải thích cả nền tảng và sự tinh vi của kỹ thuật tạo mẫu. Hơn nữa, các nền tảng như Alpaca AI và Photoroom AI sử dụng Trí tuệ nhân tạo sinh cho các chức năng chỉnh sửa hình ảnh tiên tiến như xóa nền, xóa đối tượng và thậm chí cả phục hồi khuôn mặt.

Sản xuất video

Sản xuất video, mặc dù vẫn còn trong giai đoạn đầu trong lĩnh vực Trí tuệ nhân tạo sinh, đang cho thấy những tiến bộ đầy hứa hẹn. Các nền tảng như Imagen Video, Meta Make A Video và Runway Gen-2 đang đẩy ranh giới của những gì có thể, ngay cả khi đầu ra thực tế vẫn còn trên đường chân trời. Những mô hình này cung cấp một tiện ích đáng kể cho việc tạo video số, với các ứng dụng như Synthesia và SuperCreator dẫn đầu. Đặc biệt, Tavus AI cung cấp một đề xuất bán hàng độc đáo bằng cách cá nhân hóa video cho từng thành viên khán giả, một lợi ích cho các doanh nghiệp.

Tạo mã

Lập trình, một khía cạnh không thể thiếu của thế giới kỹ thuật số của chúng ta, cũng không bị ảnh hưởng bởi Trí tuệ nhân tạo sinh. Mặc dù ChatGPT là một công cụ được ưa chuộng, nhiều ứng dụng AI khác đã được phát triển cho mục đích lập trình. Những nền tảng này, như GitHub Copilot, Alphacode và CodeComplete, phục vụ như các trợ lý lập trình và thậm chí có thể tạo mã từ lời nhắc văn bản. Điều thú vị là khả năng thích ứng của những công cụ này. Codex, động lực đằng sau GitHub Copilot, có thể được điều chỉnh cho phù hợp với phong cách lập trình của một cá nhân, nhấn mạnh tiềm năng cá nhân hóa của Trí tuệ nhân tạo sinh.

Với các công cụ như ChatGPT trở nên dễ tiếp cận hơn, bây giờ là thời điểm hoàn hảo để thử nghiệm và khám phá. Dù bạn là một nghệ sĩ, lập trình viên hay người đam mê công nghệ, lĩnh vực Trí tuệ nhân tạo sinh đầy rẫy những khả năng chờ được khám phá. Cuộc cách mạng không còn trên đường chân trời; nó đang ở đây và bây giờ. Vậy, hãy nhảy vào!