Hướng Dẫn Toàn Diện Về Tạo Dữ Liệu Tổng Hợp Bằng LLM

from transformers import AutoTokenizer, AutoModelForCausalLM

<p># Load một mô hình LLM đã được đào tạo trước
model_name = "gpt2-large"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)</p>

<p># Định nghĩa một lời nhắc cho tạo dữ liệu tổng hợp
prompt = "Tạo một đánh giá khách hàng cho điện thoại thông minh:"</p>

<p># Tạo dữ liệu tổng hợp
input_ids = tokenizer.encode(prompt, return_tensors="pt")
output = model.generate(input_ids, max_length=100, num_return_sequences=1)</p>

<p># Giải mã và in dữ liệu được tạo
synthetic_review = tokenizer.decode(output[0], skip_special_tokens=True)
print(synthetic_review)

prompt = """
Tạo một đánh giá khách hàng chi tiết cho điện thoại thông minh với các đặc điểm sau:
- Thương hiệu: {thương hiệu}
- Mẫu: {mẫu}
- Tính năng chính: {tính năng}
- Đánh giá: {đánh giá}/5 sao

<p>Đánh giá nên có từ 50-100 từ và bao gồm cả khía cạnh tích cực và tiêu cực.</p>

Đánh giá:
"""
</p>

<p>thương hiệu = ["Apple", "Samsung", "Google", "OnePlus"]
mẫu = ["iPhone 13 Pro", "Galaxy S21", "Pixel 6", "9 Pro"]
tính năng = ["5G, màn hình OLED, camera ba", "Tốc độ làm mới 120Hz, video 8K", "Camera AI, 5G", "Sạc nhanh, màn hình 120Hz"]
đánh giá = [4, 3, 5, 4]</p>

<p># Tạo nhiều đánh giá
for thương hiệu, mẫu, tính năng, đánh giá in zip(thương hiệu, mẫu, tính năng, đánh giá):
filled_prompt = prompt.format(thương hiệu=thương hiệu, mẫu=mẫu, tính năng=tính năng, đánh giá=đánh giá)
input_ids = tokenizer.encode(filled_prompt, return_tensors="pt")
output = model.generate(input_ids, max_length=200, num_return_sequences=1)
synthetic_review = tokenizer.decode(output[0], skip_special_tokens=True)
print(f"Đánh giá cho {thương hiệu} {mẫu}:\n{synthetic_review}\n")

few_shot_prompt = """
Tạo một cuộc trò chuyện hỗ trợ khách hàng giữa một đại lý (A) và một khách hàng (C) về vấn đề sản phẩm. Theo định dạng này:

<p>C: Xin chào, tôi đang gặp vấn đề với tai nghe mới của mình. Tai nghe bên phải không hoạt động.
A: Tôi xin lỗi vì điều đó. Bạn có thể cho tôi biết mẫu tai nghe bạn có không?
C: Đó là SoundMax Pro 3000.
A: Cảm ơn. Bạn đã thử đặt tai nghe vào hộp sạc trong 10 giây chưa?
C: Vâng, tôi đã thử, nhưng nó không giúp được gì.
A: Tôi hiểu. Hãy thử cập nhật firmware. Bạn có thể truy cập trang web của chúng tôi và tải xuống firmware mới nhất không?</p>

<p>Giờ tạo một cuộc trò chuyện mới về một vấn đề sản phẩm khác:</p>

<p>C: Chào, tôi vừa nhận được đồng hồ thông minh mới, nhưng nó không bật lên.
"""
</p>

<p># Tạo cuộc trò chuyện
input_ids = tokenizer.encode(few_shot_prompt, return_tensors="pt")
output = model.generate(input_ids, max_length=500, num_return_sequences=1)
synthetic_conversation = tokenizer.decode(output[0], skip_special_tokens=True)
print(synthetic_conversation)

Cách tiếp cận này giúp LLM hiểu cấu trúc và phong cách của cuộc trò chuyện mong muốn, dẫn đến các tương tác hỗ trợ khách hàng tổng hợp thực tế hơn.

from transformers import GPT2LMHeadModel, GPT2Tokenizer
import torch

<p>model = GPT2LMHeadModel.from_pretrained("gpt2-medium")
tokenizer = GPT2Tokenizer.from_pretrained("gpt2-medium")</p>

<p>def generate_conditional_text(prompt, condition, max_length=100):
input_ids = tokenizer.encode(prompt, return_tensors="pt")
attention_mask = torch.ones(input_ids.shape, dtype=torch.long, device=input_ids.device)</p>

<p># Mã hóa điều kiện
condition_ids = tokenizer.encode(condition, add_special_tokens=False, return_tensors="pt")</p>

<p># Nối điều kiện với input_ids
input_ids = torch.cat([condition_ids, input_ids], dim=-1)
attention_mask = torch.cat([torch.ones(condition_ids.shape, dtype=torch.long, device=condition_ids.device), attention_mask], dim=-1)</p>

<p>output = model.generate(input_ids, attention_mask=attention_mask, max_length=max_length, num_return_sequences=1, no_repeat_ngram_size=2, do_sample=True, top_k=50, top_p=0.95, temperature=0.7)</p>

<p>return tokenizer.decode(output[0], skip_special_tokens=True)</p>

<p># Tạo mô tả sản phẩm với các điều kiện khác nhau
conditions = ["Luxury", "Budget-friendly", "Eco-friendly", "High-tech"]
prompt = "Mô tả một chiếc ba lô:"</p>

<p>for condition in conditions:
description = generate_conditional_text(prompt, condition)
print(f"{condition} mô tả ba lô:\n{description}\n")

import pandas as pd
from sklearn.model_selection import train_test_split
from transformers import pipeline

<p># Tải một tập dữ liệu nhỏ thế giới thực
real_data = pd.read_csv("small_product_reviews.csv")</p>

<p># Chia dữ liệu
train_data, test_data = train_test_split(real_data, test_size=0.2, random_state=42)</p>

<p># Khởi tạo đường ống tạo văn bản
generator = pipeline("text-generation", model="gpt2-medium")</p>

<p>def augment_dataset(data, num_synthetic_samples):
synthetic_data = []
for _, row in data.iterrows():
prompt = f"Tạo một đánh giá sản phẩm tương tự như: {row['review']}\nĐánh giá mới:"
synthetic_review = generator(prompt, max_length=100, num_return_sequences=1)[0]['generated_text']
synthetic_data.append({'review': synthetic_review, 'sentiment': row['sentiment'] # Giả sử rằng cảm xúc được giữ nguyên})
if len(synthetic_data) &gt;= num_synthetic_samples:
break
return pd.DataFrame(synthetic_data)</p>

<p># Tạo dữ liệu tổng hợp
synthetic_train_data = augment_dataset(train_data, num_synthetic_samples=len(train_data))</p>

<p># Kết hợp dữ liệu thực và tổng hợp
augmented_train_data = pd.concat([train_data, synthetic_train_data], ignore_index=True)</p>

<p>print(f"Kích thước dữ liệu huấn luyện ban đầu: {len(train_data)}")
print(f"Kích thước dữ liệu huấn luyện tăng cường: {len(augmented_train_data)}")</p>