İnsanların AI Silah Yarışmasını Nasıl Navigasyon Edebileceği

AI araçları, birçok kişi tarafından araştırma için bir nimet olarak görülür, iş projelerinden okul çalışmalarına, bilimden. Örneğin, web sitelerini zahmetli bir şekilde incelemek yerine, ChatGPT’ye bir soru sorabilir ve size anlamlı bir cevap verecektir. Ancak, bu sonuçlara güvenebilir misiniz? Deneyim, cevabın genellikle “hayır” olduğunu gösteriyor. AI, yalnızca insanlar daha fazla dahil olduğunda, yönlendirdiğinde ve denetlediğinde, sonra da sonuçlarını gerçek dünya ile karşılaştırdığında iyi çalışır. Ancak, generatif AI sektörünün hızlı büyümesi ve yeni araçların sürekli olarak piyasaya sürülmesiyle, tüketicilerin AI araçlarıyla çalışırken oynayacakları rolü anlamak ve benimsemek zor olabilir.

AI sektörü devasa ve büyümeye devam ediyor, uzmanlar 2030 yılına kadar 1,3 trilyon doların üzerinde bir pazar olacağını söylüyor. Dolayısıyla, neredeyse tüm büyük teknoloji şirketlerinin – Apple’ (AAPL ) dan Amazon’ (AMZN ) a, IBM’den Microsoft’a ve birçok diğerine – kendi AI teknolojisini ve özellikle de gelişmiş generatif AI ürünlerini piyasaya sürmesi şaşırtıcı değildir.

Bu kadar yüksek bahislerle, şirketlerin mümkün olduğunca hızlı bir şekilde yeni özellikler piyasaya sürmeye çalışması da şaşırtıcı değildir. Aslında, bu bir silah yarışı, şirketlerin mümkün olduğunca fazla kullanıcıyı kendi ekosistemine kilitlemeye çalıştığı bir yarış. Şirketler, kullanıcıların AI sistemlerini mümkün olduğunca kolay bir şekilde kullanmasını sağlayan özellikler – örneğin, bir araştırma projesi için gerekli tüm bilgileri elde etmek için yalnızca bir generatif AI sohbet botuna soru sormak – daha fazla müşteri kazanmalarını umuyor ve bu müşterilerin yeni özellikler eklenmeye devam ederken ürün veya markayla kalacağını düşünüyor.

Ancak, bazen şirketler yarışta ilk olmak için, yeterli şekilde test edilmemiş veya sınırları iyi anlaşılmamış özellikler piyasaya sürüyorlar. Şirketler geçmişte birçok teknoloji ve uygulama için pazar payı için rekabet etti, ancak şu anda devam eden silah yarışının şirketlerin daha fazla “yarım yamalak” ürün piyasaya sürmesine neden olduğu görülüyor – ve bu da yarı yamalak sonuçlara yol açıyor. Bu sonuçlara araştırma amaçları için güvenmek – iş, kişisel, tıbbi, akademik veya diğer amaçlar için – istenmeyen sonuçlara yol açabilir, bunlar arasında itibar kaybı, iş kaybı veya hatta yaşam riski bulunabilir.

AI hataları birçok iş için önemli kayıplara neden oldu. iTutor adlı bir şirket, 2023 yılında, AI algoritmasının yaş nedeniyle birçok iş başvurusunu reddetmesi nedeniyle 365.000 dolar cezaya çarptırıldı. Emlak pazarı Zillow, 2021 yılında, AI sisteminin yanlış fiyat tahmini nedeniyle yüz milyonlarca dolar kaybetti. Tıbbi tavsiye için AI’ye güvenen kullanıcılar da risk altındaydı. Örneğin, Chat GPT, kullanıcılarına kan basıncını düşüren ilaç verapamil ve Pfizer’ (PFE ) in Covid-19 için antiviral ilacı Paxlovid arasındaki etkileşimi hakkında yanlış bilgi verdi – ve bu ilaçları aynı anda alınıp alınamayacağı hakkında. Bu sistemin yanlış tavsiyesine güvenen ve bu ilaçları aynı anda alabileceğini düşünenler risk altına girebilir.

Bu olaylar manşetlere taşındı, ancak birçok diğer AI hataları öyle olmadı – ancak bunlar da kariyerlere ve itibaralara eşit derecede ölümcül olabilir. Örneğin, bir pazarlama müdürü raporları hazırlamak için bir kısayol arıyorsa, AI aracını kullanmak isteyebilir – ve bu araç yanlış bilgi sunarsa, işini kaybetme riski ile karşı karşıya kalabilir. Bir öğrenci ChatGPT’yi bir rapor yazmak için kullanıyorsa ve profesörü bu raporun kaynağını anlamaya yetenekliyse, bir dönem için F alması mogelijk olabilir. Bir avukatın asistanı yasal işler için AI araçlarını kullanıyorsa ve dava yanlış veri nedeniyle yanlıysa, para cezası veya hatta meslekten men edilebilir.

Bu durumların几乎 tümü, insanların AI’yi yönlendirmesi ve araştırma döngüsüne daha fazla şeffaflık kazanmasıyla önlenebilir. AI, insan ve makine arasındaki bir ortaklık olarak görülmalıdır. Bu, gerçek bir işbirliğidir ve AI’nin eşsiz değeridir.

Daha güçlü arama, biçimlendirme ve analiz özelliklerinin hoş karşılandığı gibi, AI ürünleri yapanlar da bu işbirliğini sağlayan mekanizmaları dahil etmelidir. Sistemler, ChatGPT gibi araçlardan gelen raporların sonuçlarını doğrulamak için kullanıcıların gerçek kaynaklara ulaşmasını sağlayan araçlar içermelidir. Bu, hem daha iyi araştırmalar üretecek, hem de kendimize güvenimizi yeniden kazandıracaktır; rapor sunabilir, politika önerilerinde bulunabiliriz ve güvenerek anladığımız gerçeklere dayanarak.

Kullanıcılar ayrıca AI’nin araştırma üretimi için neyin söz konusu olduğunu anlamalı ve tartmalıdır. Sonuçların önemi ile AI kullanımının zahmetini dengelemelidir. Örneğin, insanlar yerel restoranların karşılaştırılması için AI’yi kullanırken daha az dahil olabilirler. Ancak, yüksek değerli iş kararlarını veya uçak veya tıbbi ekipman tasarımı gibi araştırmaları yapanlar, AI araştırma sürecinin her aşamasında daha fazla dahil olmalıdır. Karar ne kadar önemliyse, insanların dahil olması o kadar önemlidir. Daha az önemli kararlar için araştırma muhtemelen tamamen AI’ye emanet edilebilir.

AI her zaman gelişiyor – insan yardımına gerek olmadan. Mümkünse, AI araçlarının kendilerini doğrulayan araçlar çıkması muhtemeldir, sonuçlarını gerçek dünya ile karşılaştırarak – tıpkı bir insan gibi – ya dünyanın daha iyi bir yer olmasına neden olacak, ya da yok olmasına neden olacak. Ancak AI araçları muhtemelen çoğu insanın düşündüğünden daha erken veya asla ulaşamayabilir. Bu, insan faktörünün herhangi bir araştırma projesinde hala çok önemli olacağı anlamına geliyor. AI araçları veri keşfetmede ve bilgiyi organize etmede ne kadar iyiyse, bağlamı değerlendirmek ve bu bilgileri bizim kullandığımız şekilde kullanmak için güvenilmemelidir. Öngörülebilir gelecekte, araştırmacıların AI araçlarını oldukları gibi görmesi önemlidir; işleri bitirmeye yardımcı olan araçlar, işin yerine geçen değil. İnsanların ve insan beyinlerinin işin bir parçası olması gerekiyor.