Düşünce Liderleri
Üretken Yapay Zekâda Yeni Ufuklar: Buluttan Uzakta

Öne çıkan noktalarHailo gibi Edge AI işlemcileri, kritik uygulamalar için bulut bağımlılığını ortadan…
Daha fazla göster
- Hailo gibi Edge AI işlemcileri, kritik uygulamalar için bulut bağımlılığını ortadan kaldırarak üretken yapay zekanın cihazlar üzerinde yerel olarak çalıştırılmasını sağlıyor.
- Üretken yapay zeka çıkarımını edge'e taşımak, otomobiller, güvenlik ve video konferans sistemleri için gecikme, gizlilik ve bant genişliği darboğazlarını çözüyor.
- Daha hafif yapay zeka modelleri ve verimli sinir işlemcileri, üretken yapay zekayı dizüstü bilgisayarlar ve akıllı telefonlarda standart bir yerel özellik haline getirecek.
İnternet, hayatlarımızı sonsuza dek değiştirdi – iletişim kurma, alışveriş yapma, iş yapma şeklimizi değiştirdi. Ve sonra gecikme, gizlilik ve maliyet etkinliği nedenleriyle internet, ağ kenarına taşındı ve “nesnelerin interneti” ortaya çıktı.
Şimdi yapay zeka var, bu da internet üzerinde yaptığımız her şeyi daha kolay, daha kişiselleştirilmiş ve daha akıllı hale getiriyor. Ancak bunu kullanmak için büyük sunucular ve yüksek hesaplama kapasitesi gerekiyor, bu nedenle bulutta sınırlıdır. Ancak aynı motivasyonlar – gecikme, gizlilik, maliyet etkinliği – Hailo gibi şirketleri, kenarda AI’yi mümkün kılan teknolojiler geliştirmeye itti.
Kuşkusuz, bir sonraki büyük şey üretken AI. Üretken AI, endüstriler boyunca muazzam potansiyel sunuyor. Çalışmaları kolaylaştırmak ve çeşitli yaratıcıların – avukatlar, içerik yazarları, grafik tasarımcılar, müzisyenler ve daha fazlasının – verimliliğini artırmak için kullanılabilir. Yeni terapötik ilaçlar keşfetmeye veya tıbbi prosedürlerde yardımcı olmaya yardımcı olabilir. Üretken AI, endüstriyel otomasyonu geliştirebilir, yeni yazılım kodları geliştirebilir ve video, ses, görüntü ve daha fazlasının otomatik sentezini kullanarak ulaşım güvenliğini artırabilir.
Ancak günümüzde mevcut olan üretken AI, onu mümkün kılan teknoloji ile sınırlıdır. Bu, üretken AI’nin bulutta gerçekleşmesi nedeniyledir – uzakta bulunan pahalı, enerji tüketen bilgisayar işlemcilerinin büyük veri merkezleri. Bir kullanıcı ChatGPT veya AI tabanlı yeni bir video konferans çözümü gibi bir üretken AI aracına istem gönderdiğinde, bu istem internet üzerinden buluta iletilir, sunucular tarafından işlenir ve sonra ağ üzerinden sonuçlar geri döner.
Şirketler yeni üretken AI uygulamaları geliştirdikçe ve bunları farklı cihazlara dağıttıkça – video kameraları ve güvenlik sistemleri, endüstriyel ve kişisel robotlar, dizüstü bilgisayarlar ve hatta arabalar – bulut, bant genişliği, maliyet ve bağlantı açısından bir engel oluşturuyor.
Ve sürücü yardımı, kişisel bilgisayar yazılımları, video konferans ve güvenlik gibi uygulamalar için, verileri sürekli olarak bir ağ üzerinden taşımak gizlilik riski oluşturabilir.
Çözüm, bu cihazların ağın kenarında üretken AI işlemesini sağlamaktır. Aslında, kenarda çalışan üretken AI birçok yeni uygulamaya fayda sağlayabilir.
Üretken AI Yükseliyor
Mercedes-Benz’ (MBG.DE ) in Haziran ayında ChatGPT’yi arabalarına ekleyeceği açıklandı. Bir ChatGPT ile güçlendirilmiş Mercedes’te, bir sürücü elini kullanmadan arabaya evde bulunan malzemelerle bir yemek tarifi isteyebilir. Tabii ki, araba internete bağlıysa. Ancak kapalı otoparkta veya uzak bir yerde bağlantı ve dolayısıyla bu işlev garanti değildir.
Son birkaç yıldır, video konferans bizim için ikinci doğa haline geldi. Zaten, yazılım şirketleri video konferans çözümlerine AI formlarını entegre ediyor. Belki bu, ses ve görüntü kalitesini anlık olarak optimize etmek için veya insanları aynı sanal alanda “yerleştirmek” için. Şimdi, üretken AI ile güçlendirilmiş video konferanslar, otomatik olarak toplantı tutanaklarını oluşturabilir veya şirket kaynaklarından ilgili bilgileri gerçek zamanlı olarak alabilir.
Ancak, bir akıllı araba, video konferans sistemi veya herhangi bir diğer kenar cihazı buluta ulaşamazsa, üretken AI deneyimi gerçekleşemez. Ancak, bunu yapmalarına gerek olmasaydı? Bu, bulut AI’nin muazzam işleminden dolayı zor bir görev gibi görünse de, artık mümkün hale geliyor.
Kenar Üretken AI
Zaten, zengin ve etkileyici PowerPoint sunularını otomatik olarak oluşturabilen üretken AI araçları var. Ancak, kullanıcıların sistemi her yerden, hatta internet bağlantısı olmadan çalıştırabilmesi gerekiyor.
Ayrıca, temelde bilgi işlem cihazlarımızla etkileşim şeklimizi değiştirecek yeni bir üretken AI tabanlı “yardımcı pilot” asistanlar görüyoruz. Bu asistanlar rapor oluşturma veya verileri görselleştirme gibi pek çok rutin görevi otomatikleştirebilir. Dizüstü bilgisayarınızı açtığınızda, bilgisayarın kamerası sizi tanıyabilir ve sonra en çok kullandığınız araçlara göre günlük, haftalık veya aylık bir eylem planını otomatik olarak oluşturabilir – Outlook, Teams, Slack, Trello gibi. Ancak, veri gizliliğini korumak ve iyi bir kullanıcı deneyimi sağlamak için, üretken AI’yi yerel olarak çalıştırma seçeneğine sahip olmalısınız.
Güvenilir olmayan internet bağlantısı ve veri gizliliği zorluklarını karşılamakla kalmaz, kenar AI ayrıca bant genişliği taleplerini azaltabilir ve uygulama performansını artırabilir. Örneğin, bir üretken AI uygulaması, bulut üzerinden veri açısından zengin içerik, örneğin sanal bir konferans alanı oluşturuyorsa, bu işlem mevcut (ve pahalı) bant genişliğine bağlı olarak gecikebilir. Güvenlik, robotik veya sağlık gibi belirli üretken AI uygulamaları, bulut bağlantılarının karşılayamayacağı yüksek performanslı, düşük gecikme yanıtları gerektirir.
Güvenlik kameralarında, birçok kameranın bulunduğu yerlerde – bazıları ağa ulaşamayan yerlerde – insanların yeniden tanımlanabilmesi için kameralardaki veri modelleri ve AI işleme gerekir. Bu durumda, üretken AI, basit sorgular gibi “Kırmızı tişört ve beyzbol şapkası olan 8 yaşındaki çocuğu bulun” ile kameraların gördüğü şeyin otomatik tanımlarına uygulanabilir.
Kenar AI Gelişmeleri
Yeni bir AI işlemci sınıfının benimsenmesi ve daha ince, daha verimli, ancak aynı zamanda güçlü üretken AI veri modellerinin geliştirilmesi sayesinde, kenar cihazları akıllıca tasarlamak mümkün hale geliyor – bulut bağlantısı imkansız veya istenmeyen yerlerde.
Elbette, bulut işleme, üretken AI’nin kritik bir bileşeni olarak kalacak. Örneğin, AI modellerini eğitme işlemi bulutta kalacak. Ancak, bu modellere kullanıcı girişlerini uygulama işlemi, yani çıkarım, kenarda gerçekleşebilir – ve birçok durumda gerçekleşmelidir.
Sektör, şimdiden daha ince, daha küçük, daha verimli AI modelleri geliştiriyor – bunlar kenar cihazlarına yüklenilebilir. Hailo gibi şirketler, nöral ağ işleme için özel olarak tasarlanmış AI işlemcileri üretiyor. Bu nöral ağ işlemcileri, AI modellerini inanılmaz bir hızda işler ve aynı zamanda daha az güç tüketir, bu da onları enerji verimliliği açısından çeşitli kenar cihazlarına uygun hale getirir – akıllı telefonlardan kameralara kadar.
Kenarda üretken AI işleme, ayrıca artan iş yüklerini etkili bir şekilde dengeleyebilir, uygulamaların daha istikrarlı bir şekilde ölçeklenmesini sağlayabilir, bulut veri merkezlerinden pahalı işleme yükünü kaldırabilir ve karbon ayak izlerini azaltabilir.
Üretken AI, bilgisayarı tekrar değiştirmeye hazırlanıyor. Gelecekte, dizüstü bilgisayarınızdaki LLM, günümüzde işletim sisteminin güncellenmesi gibi otomatik olarak güncellenebilir – ve benzer bir şekilde çalışabilir. Ancak, orada olmaya ulaşmak için, ağın kenarında üretken AI işleme yeteneğini etkinleştirmemiz gerekiyor. Sonuç, daha iyi performans, enerji verimliliği ve gizlilik ve güvenlik vaat ediyor. Tüm bunlar, üretken AI kadar dünyayı değiştirebilecek AI uygulamalarına yol açıyor.












