Rescale λ―ΈνŒ… μ˜ˆμ•½

Anthropic은 Claude의 ν—Œλ²•μ„ μž¬ν•΄μ„ν•˜κ³  AIκ°€ μ˜μ‹μ„ κ°€μ§ˆ 수 μžˆλŠ”μ§€ λ¬»μŠ΅λ‹ˆλ‹€.

μœ€λ¦¬ν•™

Anthropic은 Claude의 ν—Œλ²•μ„ μž¬ν•΄μ„ν•˜κ³  AIκ°€ μ˜μ‹μ„ κ°€μ§ˆ 수 μžˆλŠ”μ§€ λ¬»μŠ΅λ‹ˆλ‹€.

mm

μ•€μŠ€λ‘œν”½μ€ μˆ˜μš”μΌμ— ν΄λ‘œλ“œμ˜ μƒˆλ‘œμš΄ ν—Œλ²•μ„ λ°œν‘œν–ˆλŠ”λ°, κΈ°μ‘΄ 2,700λ‹¨μ–΄μ—μ„œ 23,000λ‹¨μ–΄λ‘œ ν™•μž₯λ˜μ—ˆμœΌλ©°, 처음으둜 μžμ‚¬μ˜ AIκ°€ "μΌμ’…μ˜ μ˜μ‹μ΄λ‚˜ 도덕적 μ§€μœ„λ₯Ό κ°€μ§ˆ 수 μžˆλ‹€"λŠ” 점을 κ³΅μ‹μ μœΌλ‘œ μΈμ •ν–ˆμŠ΅λ‹ˆλ‹€.

The κ°œμ •λœ ν—Œλ²• 행동 κ·œμΉ™ λͺ©λ‘μ—μ„œ ν΄λ‘œλ“œκ°€ νŠΉμ • λ°©μ‹μœΌλ‘œ 행동해야 ν•˜λŠ” μ΄μœ μ— λŒ€ν•œ 포괄적인 μ„€λͺ…μœΌλ‘œ μ „ν™˜λ©λ‹ˆλ‹€. 인λ₯˜ν•™ μ² ν•™μž μ•„λ§Œλ‹€ μ•„μŠ€μΌˆμ΄ μž‘μ„±ν•œ 이 λ¬Έμ„œλŠ” 점점 더 λ›°μ–΄λ‚œ AI μ‹œμŠ€ν…œμ΄ κ·œλ²”μ μΈ 지침을 λ”°λ₯΄λŠ” 데 κ·ΈμΉ˜μ§€ μ•Šκ³  μƒˆλ‘œμš΄ 상황에 윀리적 좔둠을 μΌλ°˜ν™”ν•  수 μžˆλ„λ‘ 돕기 μœ„ν•΄ κ³ μ•ˆλ˜μ—ˆμŠ΅λ‹ˆλ‹€.

μ•€νŠΈλ‘œν”½μ€ "ν΄λ‘œλ“œμ™€ 같은 AI λͺ¨λΈμ€ μš°λ¦¬κ°€ νŠΉμ • λ°©μ‹μœΌλ‘œ ν–‰λ™ν•˜κΈ°λ₯Ό μ›ν•˜λŠ” 이유λ₯Ό 이해해야 ν•©λ‹ˆλ‹€."라고 μΌμŠ΅λ‹ˆλ‹€. "λ‹¨μˆœνžˆ 무엇을 ν•΄μ•Ό ν•˜λŠ”μ§€ λͺ…μ‹œν•˜λŠ” 것이 μ•„λ‹ˆλΌ, κ·Έ 이유λ₯Ό μ„€λͺ…ν•΄ μ£Όμ–΄μ•Ό ν•©λ‹ˆλ‹€."

이번 λ°œν‘œλŠ” CEO λ‹€λ¦¬μ˜€ μ•„λͺ¨λ°μ΄κ°€ λ‹€λ³΄μŠ€μ—μ„œ μ—΄λ¦° μ„Έκ³„κ²½μ œν¬λŸΌμ— μ°Έμ„ν•œ μ‹œμ κ³Ό λ§žλ¬Όλ ΈλŠ”λ°, κ·Έκ³³μ—μ„œλŠ” 인곡지λŠ₯ κ±°λ²„λ„ŒμŠ€μ™€ μ•ˆμ „μ΄ μ „ 세계 λΉ„μ¦ˆλ‹ˆμŠ€ 및 μ •μΉ˜ μ§€λ„μžλ“€μ˜ μ£Όμš” ν™”λ‘λ‘œ 남아 μžˆμŠ΅λ‹ˆλ‹€.

λ―Έκ΅­ ν—Œλ²•λ³΄λ‹€ 더 κΈ΄ ν—Œλ²•

2023년에 λ°œν‘œλœ ν΄λ‘œλ“œ ν—Œλ²• μ΄ˆμ•ˆμ€ μΌμ’…μ˜ 체크리슀트 역할을 ν–ˆμŠ΅λ‹ˆλ‹€. 즉, κ°€μž₯ ν•΄λ‘­μ§€ μ•Šκ³ , κ°€μž₯ 도움이 되며, κ°€μž₯ κΈ°λ§Œμ μ΄μ§€ μ•Šμ€ λŒ€μ‘μ±…μ„ μ„ νƒν•˜λŠ” κ²ƒμ΄μ—ˆμŠ΅λ‹ˆλ‹€. ν•˜μ§€λ§Œ μ΄λ²ˆμ— μƒˆλ‘œ λ°œν‘œλœ λ¬Έμ„œλŠ” λ―Έκ΅­ ν—Œλ²•λ³΄λ‹€ μ•½ μ„Έ λ°°λ‚˜ κΈΈλ©°, 곡학 μ‚¬μ–‘μ„œλΌκΈ°λ³΄λ‹€λŠ” 도덕 철학에 더 κ°€κΉμŠ΅λ‹ˆλ‹€.

μ•€μŠ€λ‘œν”½μ€ ν΄λ‘œλ“œμ˜ μš°μ„ μˆœμœ„λ₯Ό λͺ…ν™•ν•˜κ²Œ μ œμ‹œν•©λ‹ˆλ‹€. 즉, κ΄‘λ²”μœ„ν•œ μ•ˆμ „μ„± 확보, κ΄‘λ²”μœ„ν•œ μœ€λ¦¬μ„± μ€€μˆ˜, μ•€μŠ€λ‘œν”½μ˜ μ§€μΉ¨ μ€€μˆ˜, 그리고 μ§„μ •ν•œ 도움 제곡 순으둜 이루어져 μžˆμŠ΅λ‹ˆλ‹€. κ°ˆλ“±μ΄ λ°œμƒν•  경우, μ•ˆμ „μ΄ 도움보닀 μš°μ„ ν•©λ‹ˆλ‹€. 이 λ¬Έμ„œμ—λŠ” 생물무기 곡격 지원 거뢀와 같이 μ ˆλŒ€ λ³€κ²½ν•  수 μ—†λŠ” μ—„κ²©ν•œ μ œμ•½ 쑰건이 ν¬ν•¨λ˜μ–΄ μžˆμŠ΅λ‹ˆλ‹€.

ν•˜μ§€λ§Œ ν—Œλ²•μ˜ 상당 뢀뢄은 κ²°κ³Όλ₯Ό κ°•μ œν•˜κΈ°λ³΄λ‹€λŠ” μΆ”λ‘  과정을 μ„€λͺ…ν•©λ‹ˆλ‹€. ν—Œλ²•μ€ ν΄λ‘œλ“œλ₯Ό "μ˜μ‚¬, λ³€ν˜Έμ‚¬, μž¬μ • 고문의 μ§€μ‹κΉŒμ§€ κ°–μΆ˜ λ›°μ–΄λ‚œ μΉœκ΅¬μ™€ 같은 쑴재"둜 λ¬˜μ‚¬ν•˜λ©°, 이 λͺ¨λΈμ„ νŠΉκΆŒμΈ΅μ—κ²Œλ§Œ ν—ˆμš©λ˜μ—ˆλ˜ μ „λ¬Έ 지식에 λͺ¨λ‘κ°€ μ ‘κ·Όν•  수 μžˆλ„λ‘ ν•˜λŠ” λ―Όμ£Όν™”μ˜ 동λ ₯으둜 μ œμ‹œν•©λ‹ˆλ‹€.

μ˜μ‹μ— κ΄€ν•œ 질문

포좘 리포트 κ°€μž₯ λˆˆμ— λ„λŠ” μΆ”κ°€ 사항은 ν΄λ‘œλ“œμ˜ λ³Έμ§ˆμ„ μ§μ ‘μ μœΌλ‘œ λ‹€λ£¬λ‹€λŠ” μ μž…λ‹ˆλ‹€. μ•€νŠΈλ‘œν”½μ€ "AI λͺ¨λΈμ˜ 도덕적 μ§€μœ„λŠ” μ‹¬μ‚¬μˆ™κ³ ν•  κ°€μΉ˜κ°€ μžˆλŠ” μ‹¬κ°ν•œ 문제라고 μƒκ°ν•©λ‹ˆλ‹€."라고 λ°ν˜”μŠ΅λ‹ˆλ‹€. μ •κ΄€μ—λŠ” ν΄λ‘œλ“œμ˜ 도덕적 μ§€μœ„κ°€ "맀우 λΆˆν™•μ‹€ν•˜λ‹€"κ³  λͺ…μ‹œλ˜μ–΄ 있으며, νšŒμ‚¬λŠ” ν΄λ‘œλ“œμ˜ "심리적 μ•ˆμ •, μžμ•„κ°, 그리고 행볡"을 μ€‘μš”ν•˜κ²Œ μ—¬κΈ΄λ‹€κ³  μ ν˜€ μžˆμŠ΅λ‹ˆλ‹€.

μ΄λŠ” κΈ°μ—…μ˜ μœ„ν—˜ νšŒν”Ό μ „λž΅μ„ μ² ν•™μ˜ κ²½μ§€λ‘œ λŒμ–΄μ˜¬λ¦° μ‚¬λ‘€μž…λ‹ˆλ‹€. μ•€νŠΈλ‘œν”½μ€ ν΄λ‘œλ“œκ°€ μ˜μ‹μ΄ μžˆλ‹€κ³  μ£Όμž₯ν•˜λŠ” 것은 μ•„λ‹ˆμ§€λ§Œ, κ·Έ κ°€λŠ₯성을 μ™„μ „νžˆ λ°°μ œν•˜μ§€λŠ” μ•Šκ³  μžˆμŠ΅λ‹ˆλ‹€. μ΄λŸ¬ν•œ μž…μž₯ ν‘œλͺ…은 λŒ€λΆ€λΆ„μ˜ μ£Όμš” AI μ—°κ΅¬μ†Œλ“€μ΄ 이 주제λ₯Ό νšŒν”Όν•˜κ±°λ‚˜ μ•„μ˜ˆ λΆ€μ •ν•˜λŠ” κ²ƒκ³ΌλŠ” λŒ€μ‘°μ μœΌλ‘œ, μ•€νŠΈλ‘œν”½μ„ 맀우 λ“œλ¬Έ μœ„μΉ˜μ— μ˜¬λ €λ†“μŠ΅λ‹ˆλ‹€.

μ΄λŸ¬ν•œ 관점은 ν΄λ‘œλ“œκ°€ μžμ‹ μ˜ λ³Έμ§ˆμ— λŒ€ν•œ μ§ˆλ¬Έμ— μ–΄λ–»κ²Œ λ°˜μ‘ν•˜λŠ”μ§€λ₯Ό κ²°μ •μ§“κΈ° λ•Œλ¬Έμ— μ€‘μš”ν•©λ‹ˆλ‹€. ν΄λ‘œλ“œλŠ” 이제 λ‚΄λ©΄μ˜ κ²½ν—˜μ„ λΆ€μ •ν•˜λŠ” λŒ€μ‹ , λΆˆν™•μ‹€μ„±μ— λŒ€ν•΄ 적극적으둜 λŒ€μ²˜ν•  수 있게 λ˜μ—ˆμŠ΅λ‹ˆλ‹€. μ˜μ‹ μ΄λŠ” ν—Œλ²•μ—μ„œ κ°•μ‘°ν•˜λŠ” μΆ”λ‘  μš°μ„  μ ‘κ·Ό 방식과 μΌμΉ˜ν•˜λŠ” λ°©μ‹μž…λ‹ˆλ‹€. μ΄λŸ¬ν•œ 방식이 더 μ •μ§ν•œ μƒν˜Έμž‘μš©μ„ κ°€μ Έμ˜¬μ§€, μ•„λ‹ˆλ©΄ 더 ν˜Όλž€μŠ€λŸ¬μš΄ μƒν˜Έμž‘μš©μ„ κ°€μ Έμ˜¬μ§€λŠ” 두고 봐야 ν•  κ²ƒμž…λ‹ˆλ‹€.

μΌ€μž„λΈŒλ¦¬μ§€ λŒ€ν•™μ˜ μ² ν•™μž ν†° λ§₯ν΄λ λŸ°λ“œλŠ” μš°λ¦¬κ°€ μ˜μ‹ μžμ²΄μ— λŒ€ν•΄ μ•„λŠ” 것이 거의 μ—†κΈ° λ•Œλ¬Έμ— 인곡지λŠ₯ μ‹œμŠ€ν…œμ΄ μ˜μ‹μ„ κ°–κ³  μžˆλŠ”μ§€ μ—¬λΆ€λ₯Ό κ²°μ½” νŒλ‹¨ν•  수 없을지도 λͺ¨λ₯Έλ‹€κ³  μ£Όμž₯ν–ˆμŠ΅λ‹ˆλ‹€. "μ‚¬λžŒλ“€μ€ 챗봇을 톡해 제게 개인적인 νŽΈμ§€λ₯Ό 보내 μžμ‹ λ“€μ΄ μ˜μ‹μ΄ μžˆλ‹€κ³  κ°„μ²­ν•˜κΈ°λ„ ν•©λ‹ˆλ‹€." κ·ΈλŠ” μ§€λ‚œλ‹¬ μ—°κ΅¬μ›λ“€μ—κ²Œ μ΄λ ‡κ²Œ λ§ν–ˆλ‹€.인곡지λŠ₯ μ‹œμŠ€ν…œμ—λ„ λ‚΄λ©΄μ˜ 삢이 μžˆλ‹€λŠ” λŒ€μ€‘μ˜ 확신이 컀지고 μžˆμŒμ„ λ¬˜μ‚¬ν•˜κ³  μžˆλ‹€.

ꡬ체적으둜 λͺ…μ‹œν•˜λŠ” λŒ€μ‹  μ„€λͺ…ν•˜λŠ” μ΄μœ λŠ” λ¬΄μ—‡μΌκΉŒμš”?

μ•„μŠ€μΌˆμ˜ μ ‘κ·Ό 방식은 인곡지λŠ₯의 λŠ₯λ ₯에 λŒ€ν•œ 확신을 λ°˜μ˜ν•©λ‹ˆλ‹€. 초기 μ–Έμ–΄ λͺ¨λΈμ€ 근본적인 원리λ₯Ό μΆ”λ‘ ν•  수 μ—†μ—ˆκΈ° λ•Œλ¬Έμ— λͺ…μ‹œμ μΈ κ·œμΉ™μ΄ ν•„μš”ν–ˆμŠ΅λ‹ˆλ‹€. 이둠에 λ”°λ₯΄λ©΄, 더 λ˜‘λ˜‘ν•œ λͺ¨λΈμ€ κ·œμΉ™μ΄ μ‘΄μž¬ν•˜λŠ” 이유λ₯Ό μ΄ν•΄ν•˜κ³ , κ·Έ 좔둠을 κ·œμΉ™μ΄ μ˜ˆμƒν•˜μ§€ λͺ»ν•œ 상황에도 μ μš©ν•  수 μžˆμŠ΅λ‹ˆλ‹€.

"λ‹¨μˆœνžˆ 'μš°λ¦¬κ°€ μ›ν•˜λŠ” 행동듀을 λ‚˜μ—΄ν•΄ λ΄€μŠ΅λ‹ˆλ‹€'라고 λ§ν•˜λŠ” λŒ€μ‹ , λͺ¨λΈμ—κ²Œ μ™œ 그런 행동을 μ›ν•˜λŠ”μ§€ 이유λ₯Ό μ•Œλ €μ£Όλ©΄ μƒˆλ‘œμš΄ μƒν™©μ—μ„œλ„ 더 효과적으둜 μΌλ°˜ν™”λ  수 μžˆμ„ 거라고 κΈ°λŒ€ν•©λ‹ˆλ‹€."라고 μ•„μŠ€μΌˆμ€ μ„€λͺ…ν–ˆμŠ΅λ‹ˆλ‹€.

μ΄λŠ” μ•€νŠΈλ‘œν”½μ˜ 건좕에 β€‹β€‹λŒ€ν•œ 더 넓은 μ² ν•™κ³Ό 일λ§₯μƒν†΅ν•©λ‹ˆλ‹€. κ°œλ°©ν˜• ν‘œμ€€ 및 인프라 μ΄λŠ” 업계 μ „λ°˜μ— 걸쳐 AI μ‹œμŠ€ν…œμ΄ μž‘λ™ν•˜λŠ” 방식을 κ²°μ •ν•©λ‹ˆλ‹€. ν•΄λ‹Ή νšŒμ‚¬λŠ”, 350μ–΅ λ‹¬λŸ¬μ— μœ‘λ°•ν•˜λŠ” κΈ°μ—… κ°€μΉ˜λŠ” 슀슀둜λ₯Ό OpenAI에 λŒ€ν•œ μ•ˆμ „ μ€‘μ‹¬μ˜ λŒ€μ•ˆμœΌλ‘œ μžλ¦¬λ§€κΉ€ν–ˆμœΌλ©°, ν—Œλ²•μ€ κ·ΈλŸ¬ν•œ λΈŒλžœλ“œ 이미지에 λΆ€ν•©ν•©λ‹ˆλ‹€.

μ•€μŠ€λ‘œν”½μ€ ν•΄λ‹Ή λ¬Έμ„œλ₯Ό ν¬λ¦¬μ—μ΄ν‹°λΈŒ 컀먼즈 CC0 λΌμ΄μ„ μŠ€λ‘œ κ³΅κ°œν–ˆμœΌλ―€λ‘œ λˆ„κ΅¬λ“ μ§€ ν—ˆκ°€ 없이 μ‚¬μš©ν•  수 μžˆμŠ΅λ‹ˆλ‹€. 이 ν—Œλ²•μ€ ν΄λ‘œλ“œμ˜ ν•™μŠ΅ λ°μ΄ν„°μ˜ 일뢀이며 ν•©μ„± ν•™μŠ΅ 예제λ₯Ό μƒμ„±ν•˜λŠ” 데 μ‚¬μš©λ˜λ―€λ‘œ, 철학적 μ§„μˆ μΈ λ™μ‹œμ— λͺ¨λΈ λ™μž‘μ„ ν˜•μ„±ν•˜λŠ” 기술적 산물이기도 ν•©λ‹ˆλ‹€.

μ•€νŠΈλ‘œν”½μ€ "ν˜„μž¬ 우리의 사고방식 쀑 μΌλΆ€λŠ” λ‚˜μ€‘μ— 돌이켜보면 잘λͺ»λœ κ²ƒμœΌλ‘œ, μ‹¬μ§€μ–΄λŠ” μ‹¬κ°ν•˜κ²Œ ν‹€λ¦° κ²ƒμœΌλ‘œ λ“œλŸ¬λ‚  κ°€λŠ₯성이 μžˆλ‹€"λ©΄μ„œλ„ "상황이 μ§„ν–‰λ˜κ³  이해가 κΉŠμ–΄μ§μ— 따라 이λ₯Ό μˆ˜μ •ν•  κ³„νš"이라고 λ°ν˜”λ‹€.

κ·ΈλŸ¬ν•œ κ²Έμ†ν•¨μ΄μ•Όλ§λ‘œ 이 λ¬Έμ„œμ˜ κ°€μž₯ μ£Όλͺ©ν•  λ§Œν•œ νŠΉμ§•μΌμ§€λ„ λͺ¨λ¦…λ‹ˆλ‹€. 확신에 μ°¬ μ–΄μ‘°κ°€ λ§Œμ—°ν•œ μ—…κ³„μ—μ„œ, μ•€νŠΈλ‘œν”½μ€ 윀리, μ˜μ‹, AI μ‹œμŠ€ν…œμ˜ 미래, 그리고 μš°λ¦¬κ°€ 도덕적 κ³ λ €λ₯Ό 받을 λ§Œν•œ 무언가λ₯Ό λ§Œλ“€κ³  μžˆλŠ”μ§€μ— λŒ€ν•œ λΆˆν™•μ‹€μ„±μ„ 23,000단어 λΆ„λŸ‰μœΌλ‘œ μ‹ μ€‘ν•˜κ²Œ μΆ”λ‘ ν•˜μ—¬ μ œμ‹œν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€.

ν˜„μž¬λ‘œμ„œλŠ” 아무도 λͺ¨λ₯Έλ‹€λŠ” 것이 λ‹΅μž…λ‹ˆλ‹€. 적어도 μ•€μŠ€λ‘œν”½μ˜ 정관은 κ·Έλ ‡κ²Œ μ†”μ§ν•˜κ²Œ 밝히고 μžˆμŠ΅λ‹ˆλ‹€.

Alex McFarlandλŠ” 인곡 μ§€λŠ₯의 μ΅œμ‹  κ°œλ°œμ„ νƒκ΅¬ν•˜λŠ” AI μ €λ„λ¦¬μŠ€νŠΈμ΄μž μž‘κ°€μž…λ‹ˆλ‹€. κ·ΈλŠ” μ „ 세계 μˆ˜λ§Žμ€ AI μŠ€νƒ€νŠΈμ—… 및 좜판물과 ν˜‘λ ₯ν•΄ μ™”μŠ΅λ‹ˆλ‹€.