คู่มือการใช้ข้อมูลสังเคราะห์จากโมเดลภาษาขนาดใหญ่

from transformers import AutoTokenizer, AutoModelForCausalLM

<p># โหลดโมเดล LLM ที่ฝึกมาแล้ว
model_name = "gpt2-large"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)</p>

<p># นิยามคำสั่งสำหรับการสร้างข้อมูลสังเคราะห์
prompt = "สร้างคำวิจารณ์สำหรับสมาร์ทโฟน:"</p>

<p># สร้างข้อมูลสังเคราะห์
input_ids = tokenizer.encode(prompt, return_tensors="pt")
output = model.generate(input_ids, max_length=100, num_return_sequences=1)</p>

<p># ถอดรหัสและพิมพ์ข้อความที่สร้างขึ้น
synthetic_review = tokenizer.decode(output[0], skip_special_tokens=True)
print(synthetic_review)

prompt = """
สร้างคำวิจารณ์สำหรับสมาร์ทโฟนที่มีลักษณะดังต่อไปนี้:
- ยี่ห้อ: {brand}
- รุ่น: {model}
- คุณสมบัติสำคัญ: {features}
- คะแนน: {rating}/5 ดาว

<p>คำวิจารณ์ควรอยู่ระหว่าง 50-100 คำและรวมทั้งด้านบวกและด้านลบ</p>

คำวิจารณ์:
"""

ยี่ห้อ = [“Apple “, “Samsung”, “Google “, “OnePlus”]
รุ่น = [“iPhone 13 Pro”, “Galaxy S21”, “Pixel 6”, “9 Pro”]
คุณสมบัติสำคัญ = [“5G, จอ OLED, กล้องสามตัว”, “120Hz refresh rate, 8K video”, “กล้อง AI, 5G”, “ชาร์จเร็ว, จอ 120Hz”]
คะแนน = [4, 3, 5, 4]

# สร้างคำวิจารณ์หลายรายการ
for brand, model, feature, rating in zip(ยี่ห้อ, รุ่น, คุณสมบัติสำคัญ, คะแนน):
filled_prompt = prompt.format(brand=brand, model=model, features=feature, rating=rating)
input_ids = tokenizer.encode(filled_prompt, return_tensors=”pt”)
output = model.generate(input_ids, max_length=200, num_return_sequences=1)
synthetic_review = tokenizer.decode(output[0], skip_special_tokens=True)
print(f”คำวิจารณ์สำหรับ {brand} {model}:\n{synthetic_review}\n”)
[/code]

few_shot_prompt = """
สร้างบทสนทนาระหว่างตัวแทน (A) และลูกค้า (C) เกี่ยวกับปัญหาผลิตภัณฑ์ โดยใช้รูปแบบต่อไปนี้:

<p>C: สวัสดี, ฉันมีปัญหากับหูฟังใหม่ของฉัน หูฟังด้านขวาไม่ทำงาน
A: ขอโทษที่ได้ยินเช่นนั้น คุณสามารถบอกฉันรุ่นหูฟังของคุณได้ไหม?
C: มันเป็น SoundMax Pro 3000
A: ขอบคุณ คุณได้ลองรีสตาร์ทหูฟังโดยการวางมันในกล่องชาร์จเป็นเวลา 10 วินาทีหรือไม่?
C: ใช่ ฉันลองแล้ว แต่ก็ไม่ได้ผล
A: ฉันเข้าใจแล้ว มาทำการอัปเดตเฟิร์มแวร์กัน คุณสามารถไปที่เว็บไซต์ของเราและดาวน์โหลดเฟิร์มแวร์เวอร์ชันล่าสุดได้ไหม?</p>

<p>ตอนนี้สร้างบทสนทนาใหม่เกี่ยวกับปัญหาผลิตภัณฑ์ที่แตกต่าง:</p>

<p>C: สวัสดี, ฉันเพิ่งได้รับสมาร์ทวอทช์ใหม่ แต่มันไม่ติด</p>

"""

# สร้างบทสนทนา
input_ids = tokenizer.encode(few_shot_prompt, return_tensors=”pt”)
output = model.generate(input_ids, max_length=500, num_return_sequences=1)
synthetic_conversation = tokenizer.decode(output[0], skip_special_tokens=True)
print(synthetic_conversation)
[/code]

วิธีการนี้ช่วยให้ LLM เข้าใจโครงสร้างและรูปแบบของบทสนทนาได้ดีขึ้น ซึ่งนำไปสู่การสร้างข้อมูลสังเคราะห์ที่มีความสมจริงมากขึ้น

from transformers import GPT2LMHeadModel, GPT2Tokenizer
import torch

<p>model = GPT2LMHeadModel.from_pretrained("gpt2-medium")
tokenizer = GPT2Tokenizer.from_pretrained("gpt2-medium")</p>

<p>def generate_conditional_text(prompt, condition, max_length=100):
input_ids = tokenizer.encode(prompt, return_tensors="pt")
attention_mask = torch.ones(input_ids.shape, dtype=torch.long, device=input_ids.device)</p>

<p># โค้ดเงื่อนไข
condition_ids = tokenizer.encode(condition, add_special_tokens=False, return_tensors="pt")</p>

<p># นำเงื่อนไขมาเชื่อมต่อกับ input_ids
input_ids = torch.cat([condition_ids, input_ids], dim=-1)
attention_mask = torch.cat([torch.ones(condition_ids.shape, dtype=torch.long, device=condition_ids.device), attention_mask], dim=-1)</p>

<p>output = model.generate(input_ids, attention_mask=attention_mask, max_length=max_length, num_return_sequences=1, no_repeat_ngram_size=2, do_sample=True, top_k=50, top_p=0.95, temperature=0.7)</p>

<p>return tokenizer.decode(output[0], skip_special_tokens=True)</p>

<p># สร้างคำอธิบายผลิตภัณฑ์พร้อมเงื่อนไขต่างๆ
conditions = ["หรูหรา", "ราคาประหยัด", "เป็นมิตรกับสิ่งแวดล้อม", "เทคโนโลยีขั้นสูง"]
prompt = "อธิบายถุงเป้แบบใดแบบหนึ่ง:"</p>

<p>for condition in conditions:
description = generate_conditional_text(prompt, condition)
print(f"{condition} คำอธิบายถุงเป้:\n{description}\n")

import pandas as pd
from sklearn.model_selection import train_test_split
from transformers import pipeline

<p># โหลดชุดข้อมูลจริงขนาดเล็ก
real_data = pd.read_csv("small_product_reviews.csv")</p>

<p># แบ่งชุดข้อมูล
train_data, test_data = train_test_split(real_data, test_size=0.2, random_state=42)</p>

<p># เริ่มต้นการสร้างข้อความ
generator = pipeline("text-generation", model="gpt2-medium")</p>

<p>def augment_dataset(data, num_synthetic_samples):
synthetic_data = []
for _, row in data.iterrows():
prompt = f"สร้างคำวิจารณ์สำหรับผลิตภัณฑ์ที่คล้ายกับ: {row['review']}\nคำวิจารณ์ใหม่:"
synthetic_review = generator(prompt, max_length=100, num_return_sequences=1)[0]['generated_text']
synthetic_data.append({'review': synthetic_review, 'sentiment': row['sentiment']}) # สมมติว่าความรู้สึกถูกเก็บไว้
if len(synthetic_data) &gt;= num_synthetic_samples:
break
return pd.DataFrame(synthetic_data)</p>

<p># สร้างข้อมูลสังเคราะห์
synthetic_train_data = augment_dataset(train_data, num_synthetic_samples=len(train_data))</p>

<p># รวมข้อมูลจริงและข้อมูลสังเคราะห์
augmented_train_data = pd.concat([train_data, synthetic_train_data], ignore_index=True)</p>

<p>print(f"ขนาดชุดข้อมูลฝึกอบรมเดิม: {len(train_data)}")
print(f"ขนาดชุดข้อมูลฝึกอบรมที่เพิ่มข้อมูลสังเคราะห์: {len(augmented_train_data)}")</p>