Yeni Ufuklar: Bulutun Ötesinde Nesil AI

İnternet, hayatlarımızı sonsuza dek değiştirdi – iletişim kurma, alışveriş yapma, iş yapma şeklimizi değiştirdi. Ve sonra gecikme, gizlilik ve maliyet etkinliği nedenleriyle internet, ağ kenarına taşındı ve “şeylerin interneti” ortaya çıktı.

Şimdi yapay zeka var, bu da internet üzerinde yaptığımız her şeyi daha kolay, daha kişiselleştirilmiş ve daha akıllı hale getiriyor. Ancak bunu kullanmak için büyük sunucular ve yüksek hesaplama kapasitesi gerekiyor, bu nedenle bulutta sınırlıdır. Ancak aynı motivasyonlar – gecikme, gizlilik, maliyet etkinliği – Hailo gibi şirketleri, kenarda AI’yi mümkün kılan teknolojiler geliştirmeye itti.

Kuşkusuz, bir sonraki büyük şey nesil AI. Nesil AI, endüstriler boyunca enorme potansiyel sunuyor. Çalışmaları kolaylaştırmak ve çeşitli yaratıcıların – avukatlar, içerik yazarları, grafik tasarımcılar, müzisyenler ve daha fazlasının – verimliliğini artırmak için kullanılabilir. Yeni terapötik ilaçlar keşfetmeye veya tıbbi prosedürlerde yardımcı olmaya yardımcı olabilir. Nesil AI, endüstriyel otomasyonu geliştirebilir, yeni yazılım kodları geliştirebilir ve video, ses, görüntü ve daha fazlasının otomatik sentezini kullanarak ulaşım güvenliğini artırabilir.

Ancak günümüzde mevcut olan nesil AI, onu mümkün kılan teknoloji ile sınırlıdır. Bu, nesil AI’nin bulutta gerçekleşmesi nedeniyledir – uzakta bulunan pahalı, enerji tüketen bilgisayar işlemcilerinin büyük veri merkezleri. Birine bir nesil AI aracına bir istem gönderdiğinde, bu istem internet üzerinden buluta iletilir, sunucular tarafından işlenir ve sonra ağ üzerinden sonuçlar geri döner.

Şirketler yeni nesil AI uygulamaları geliştirdikçe ve bunları farklı cihazlara dağıttıkça – video kameraları ve güvenlik sistemleri, endüstriyel ve kişisel robotlar, dizüstü bilgisayarlar ve hatta arabalar – bulut, bant genişliği, maliyet ve bağlantı açısından bir engel oluşturuyor.

Ve sürücü yardımı, kişisel bilgisayar yazılımları, video konferans ve güvenlik gibi uygulamalar için, verileri sürekli olarak bir ağ üzerinden taşımak gizlilik riski oluşturabilir.

Çözüm, bu cihazların kenarda nesil AI işleyebilmesini sağlamaktır. Aslında, kenar tabanlı nesil AI, birçok yeni uygulamadan yararlanmaya hazırdır.

Nesil AI Yükseliyor

Mercedes-Benz’in Haziran ayında ChatGPT’yi arabalarına tanıtlayacağı açıklandı. Bir ChatGPT ile güçlendirilmiş Mercedes’te, bir sürücü elini kullanmadan arabaya evde bulunan malzemelerle bir yemek tarifi isteyebilir. Tabii ki, araba internete bağlıysa. Bir otopark veya uzak bir konumdaysa, her şey olabilir.

Son birkaç yıldır, video konferans bizim için ikinci doğa haline geldi. Zaten, yazılım şirketleri video konferans çözümlerine AI formlarını entegre ediyor. Belki bu, ses ve video kalitesini uçtan uca optimize etmek için veya insanları aynı sanal alanda “yerleştirmek” için. Şimdi, nesil AI ile güçlendirilmiş video konferanslar, otomatik olarak toplantı dakikaelerini oluşturabilir veya şirket kaynaklarından ilgili bilgileri gerçek zamanlı olarak alabilir.

Ancak, bir akıllı araba, video konferans sistemi veya herhangi bir diğer kenar cihazı buluta ulaşamazsa, nesil AI deneyimi gerçekleşemez. Ancak, bunu yapmalarına gerek olmasaydı? Bu, bulut AI’nin enorme işleminden dolayı zor bir görev gibi görünse de, artık mümkün hale geliyor.

Kenar Nesil AI

Zaten, zengin ve etkileyici PowerPoint sunularını otomatik olarak oluşturabilen nesil AI araçları var. Ancak, kullanıcıların sistemi her yerden, hatta internet bağlantısı olmadan çalıştırabilmesi gerekiyor.

Ayrıca, temelde computing cihazlarımızla etkileşim şeklimizi değiştirecek yeni bir nesil AI tabanlı “kaptan” asistanlar görüyoruz. Dizüstü bilgisayarınızı açtığınızda, bilgisayarın kamerası sizi tanıyabilir ve sonra en çok kullandığınız araçlara göre gününüzü/haftanızı/ayınızı otomatik olarak oluşturabilir – Outlook, Teams, Slack, Trello gibi. Ancak, veri gizliliğini korumak ve iyi bir kullanıcı deneyimi sağlamak için, nesil AI’yi yerel olarak çalıştırma seçeneğine sahip olmalısınız.

İnternet bağlantısı güvensizliği ve veri gizliliği zorluklarını karşılamakla kalmaz, kenar AI ayrıca bant genişliği taleplerini azaltabilir ve uygulama performansını artırabilir. Örneğin, bir nesil AI uygulaması, bulut üzerinden veri zenginleştirilmiş içeriği oluşturuyorsa, bu işlem mevcut (ve pahalı) bant genişliğine bağlı olarak gecikebilir. Güvenlik, robotik veya sağlık gibi belirli nesil AI uygulamaları, bulut bağlantılarının karşılayamayacağı yüksek performanslı, düşük gecikme yanıtları gerektirir.

Güvenlik kameralarında, birçok kameranın bulunduğu yerlerde – bazıları ağa ulaşamayan yerlerde – insanların yeniden tanımlanabilmesi için kameralardaki veri modelleri ve AI işleme gerekir. Bu durumda, nesil AI, basit sorgular gibi “Kırmızı tişört ve beyzbol şapkası olan 8 yaşındaki çocuğu bulun” ile kameraların gördüğü şeyin otomatik tanımlarına uygulanabilir.

Kenar AI Gelişmeleri

Yeni bir AI işlemci sınıfının benimsenmesi ve daha ince, daha verimli, ancak aynı zamanda güçlü nesil AI veri modellerinin geliştirilmesi sayesinde, kenar cihazları akıllıca tasarlamak mümkün hale geliyor – bulut bağlantısı imkansız veya istenmeyen yerlerde.

Elbette, bulut işleme, nesil AI’nin kritik bir bileşeni olarak kalacak. Örneğin, AI modellerini eğitme işlemi bulutta kalacak. Ancak, bu modellere kullanıcı girişlerini uygulama işlemi, yani çıkarım, kenarda gerçekleşebilir – ve birçok durumda gerçekleşmelidir.

Endüstri, already daha ince, daha küçük, daha verimli AI modelleri geliştiriyor – bunlar kenar cihazlarına yüklenilebilir. Hailo gibi şirketler, nöral ağ işleme için özel olarak tasarlanmış AI işlemcileri üretiyor. Bu nöral ağ işlemcileri, AI modellerini inanılmaz bir hızda işler ve aynı zamanda daha az güç tüketir, bu da onları enerji verimliliği açısından çeşitli kenar cihazlarına uygun hale getirir – akıllı telefonlardan kameralara kadar.

Kenarda nesil AI işleme, ayrıca artan iş yüklerini etkili bir şekilde dengeleyebilir, uygulamaların daha稳 bir şekilde ölçeklenmesini sağlayabilir, bulut veri merkezlerinden pahalı işleme yükünü kaldırabilir ve karbon ayak izlerini azaltabilir.

Nesil AI, bilgisayarı tekrar değiştirmeye hazırlanıyor. Gelecekte, dizüstü bilgisayarınızdaki LLM, günümüzde işletim sisteminin güncellenmesi gibi otomatik olarak güncellenebilir – ve benzer bir şekilde çalışabilir. Ancak, orada olmaya ulaşmak için, ağın kenarında nesil AI işleme yeteneğini etkinleştirmemiz gerekiyor. Sonuç, daha iyi performans, enerji verimliliği ve gizlilik ve güvenlik vaat ediyor. Tüm bunlar, nesil AI kadar dünyayı değiştirebilecek AI uygulamalarına yol açıyor.