์ฌ์ ๋ฆฌ๋
์ธ๊ฐ์ด AI ๊ฒฝ์์์ ์ด๋ป๊ฒ ะฝะฐะฒะธะณํ๊ธฐ
AI 도구는 많은 사람들에게 연구를 위한 보조 수단으로 보인다. 예를 들어, 웹 사이트를 수동으로 검토하는 대신 ChatGPT에 질문을 하면回答가 돌아온다. 하지만 그 결과를 신뢰할 수 있을까? 경험에 비추어보면 대답은 종종 “아니오”이다. AI는 인간이 더 많이 참여하여 감독하고 결과를 검토할 때 잘 작동한다. 그러나 생성형 AI 부문의 빠른 성장과 새로운 도구가不断 출시됨에 따라 소비자들이 AI 도구와 함께 작업할 때해야 할 역할을 이해하고 수용하는 것이 어려울 수 있다.
AI 부문은巨大하며, 2030년까지 1조 달러 이상의 가치가 될 것이라고 전문가들은 말한다. 따라서 거의 모든 큰 기술 회사 – 애플, 아마존, IBM, 마이크로소프트 등 – 이自己的 버전의 AI 기술, 특히 고급 생성형 AI 제품을 출시하는 것이 놀라운 일이 아니다.
그런데 이러한 상황에서 회사들이 경쟁에서 앞서기 위해 새로운 기능을 가능한 한 빠르게 출시하려고 노력하는 것은 놀라운 일이 아니다. 이는 실제로 무기 경쟁이다. 회사들은 사용자가 AI 시스템을 가장 쉽게 사용할 수 있는 기능을 제공함으로써 사용자를 자신의 생태계에 묶을 수 있을 것이라고希望한다. 예를 들어, 생성형 AI 채팅봇에게 질문을 하면 연구 프로젝트에 필요한 모든 정보를 얻을 수 있다.
그러나 때때로 회사들은 기능을 제대로 검토하지 않고 출시하거나, 그 기능의 한계가 잘 정의되지 않은 경우가 있다. 기술과 응용 프로그램에 대한 시장 점유율을争奪하는 경쟁은 이전에도 있었지만, 현재의 무기 경쟁은 회사들이 이전보다 더 많은 “반쯤 구현된” 제품을 출시하도록 만들고 있다. 이러한 제품은 결과적으로 반쯤 구현된 결과를 낳을 수 있다. 연구 목적으로 이러한 결과를 신뢰하는 것은 비즈니스, 개인, 의료, 학술 등 다양한 분야에서 원치 않는 결과를 초래할 수 있다.
AI 오류는 여러 비즈니스에 상당한 손실을 입혔다. 예를 들어, iTutor라는 회사는 2023年に 36만 5,000 달러의 벌금을 물었다. 이는 회사의 AI 알고리즘이 연령으로 인해 수십 명의 지원자를 거부했기 때문이다. 또한, Zillow라는 부동산 시장은 2021年に AI 시스템의 잘못된 가격 예측으로 수백만 달러의 손실을 입었다. 의료 상담을 위해 AI를 사용하는 사용자들도 위험에 노출되었다. 예를 들어, Chat GPT는 혈압 강하 약물 verapamil과 파이저의 코로나19 치료제인 Paxlovid의 상호 작용에 대한 부정확한 정보를 제공했다.
그런데 이러한 사건들이 헤드라인을 장식하는 동안, 많은 다른 AI 관련 오류는 헤드라인을 장식하지 못했다. 그러나 이러한 오류도 경력과 평판에 치명적일 수 있다. 예를 들어, 보고서를 준비하기 위해 AI 도구를 사용하는 마케팅 관리자는 부정확한 정보를 제공할 수 있다. 또한, 교수가 Chat GPT의 출처를 알 수 있다면, 학생은 학기 전체에 F를 받을 수 있다. 또한, 법률 업무에 AI 도구를 사용하는 변호사는 잘못된 데이터로 인해 벌금을 물거나 حتى 면허를 잃을 수 있다.
이러한 상황은 대부분 인간이 AI를 감독하고 연구 루프에 대한 투명성을 제공할 때 방지할 수 있다. AI는 인간과 기계의 협력으로 보아야 한다. 이는真正한 협력이며, 이는 AI의 뛰어난 가치이다.
보다 강력한 검색, 서식, 분석 기능은 환영할 만하다. 그러나 AI 제품 제작자들은 이러한 협력을 가능하게 하는 메커니즘을 포함해야 한다. 시스템은 Chat GPT와 같은 도구의 결과를 검토할 수 있는 사실 검사 도구를 포함해야 한다. 이를 통해 사용자는 원본 출처를 볼 수 있고, 신뢰할 수 있는 사실에 기반한 보고서를 제출할 수 있다.
사용자들은 또한 AI를 사용하여 연구를 수행할 때 무엇이 걸린지를 인식하고 평가해야 한다. 예를 들어, 인간은 비교적 사소한 결정에 대한 연구를 위해 AI를 사용할 때보다 중요한 비즈니스 결정이나 항공기 또는 의료 장비 설계와 같은 중요한 결정에 대한 연구를 위해 더 많이 참여해야 한다. 결정의 중요성에 따라 인간의 참여가 더 중요하다.
AI는 계속해서 개선되고 있다. 그러나 AI 도구가 스스로를 평가할 수 있는 도구가 등장하거나, 인간이 하는 것과 같은 방식으로 정보를 사용하는 것은 아직 먼 미래의 일이다. 따라서 연구 프로젝트에서 인간의 역할은 여전히 중요하다. AI 도구는 데이터를 발견하고 정보를 조직하는 데 탁월하지만, 인간이 필요로 하는 방식으로 정보를 평가하고 사용하는 것은 아직 할 수 없다. 따라서 연구자들은 AI 도구를 도구로 간주해야 한다. 즉, 작업을 완수하는 데 도움이 되는 도구로 간주해야 한다. 인간의 대체물로 간주해서는 안 된다. 이는 앞으로도 중요하다. hey cannot be trusted to evaluate context and use that information in the way that we, as human beings, need it to be used. For the foreseeable future, it is important that researchers see AI tools for what they are; tools to help get the job done, rather than something that replaces humans and human brains on the job.
