Rob Clark, Presiden dan CTO Seekr – Seri Wawancara

Rob Clark adalah Presiden dan Chief Technology Officer (CTO) dari Seekr. Rob memiliki lebih dari 20 tahun pengalaman dalam rekayasa perangkat lunak, manajemen produk, operasi, dan pengembangan teknologi kecerdasan buatan dan web-skala terdepan. Sebelum bergabung dengan Seekr, ia memimpin beberapa solusi kecerdasan buatan dan pencarian untuk beberapa perusahaan telekomunikasi, penerbitan, dan e-commerce terbesar di dunia.

Seekr sebuah perusahaan kecerdasan buatan, menciptakan model bahasa besar yang dapat dipercaya (LLM) yang mengidentifikasi, menilai, dan menghasilkan konten yang dapat diandalkan dalam skala besar.

Dimulai dengan pencarian web, inovasi terus-menerus Seekr telah menghasilkan teknologi paten yang meningkatkan keamanan web dan nilai. Model mereka, yang dikembangkan dengan input manusia yang ahli dan penjelasan, menangani kebutuhan pelanggan dalam evaluasi konten, kecerdasan buatan generatif, dan pelatihan serta validasi LLM yang dapat dipercaya.

Apakah Anda dapat menjelaskan misi inti Seekr dan bagaimana ia berusaha membedakan diri dalam lanskap kecerdasan buatan yang kompetitif?

Kami mendirikan Seekr atas prinsip sederhana namun penting bahwa semua orang harus memiliki akses ke informasi yang dapat dipercaya, kredibel, dan dapat diandalkan – tidak peduli bentuk atau tempat informasi tersebut ada. Tidak peduli apakah Anda adalah konsumen online atau bisnis yang menggunakan informasi tersebut untuk membuat keputusan penting – sistem kecerdasan buatan yang bertanggung jawab memungkinkan kita semua untuk memahami informasi dengan lebih baik, karena kita perlu memastikan bahwa apa yang dihasilkan oleh kecerdasan buatan generatif akurat dan dapat diandalkan.

Ketika informasi tidak dapat diandalkan, itu dapat menyebabkan spektrum yang luas, mulai dari sensasionalisme yang lebih tidak berbahaya hingga skenario terburuk dari perilaku tidak asli yang disengaja untuk menyesatkan atau mempengaruhi daripada memberikan informasi. Pendekatan Seekr terhadap kecerdasan buatan adalah untuk memastikan bahwa pengguna memiliki transparansi penuh terhadap konten, termasuk provenance, garis keturunan, dan objektivitas, serta kemampuan untuk membangun dan memanfaatkan kecerdasan buatan yang transparan, dapat dipercaya, memiliki penjelasan, dan memiliki semua pengaman sehingga konsumen dan bisnis dapat mempercayainya.

Di samping menyediakan Model Bahasa Besar yang dioptimalkan untuk industri, Seekr telah memulai pembangunan Model Dasar yang berbeda dengan transparansi dan akurasi yang lebih besar, dengan kesalahan dan bias yang berkurang, termasuk semua alat validasi. Ini dimungkinkan melalui kolaborasi Seekr dengan Intel (INTC ) untuk menggunakan akselerator AI Gaudi terbaru dengan harga yang paling kompetitif. Kami memutuskan untuk tidak bergantung pada model dasar luar di mana data pelatihan tidak diketahui dan menunjukkan kesalahan dan bias bawaan, terutama karena mereka sering dilatih pada data populer daripada data yang paling kredibel dan dapat diandalkan. Kami berharap untuk merilis ini pada akhir tahun.

Produk inti kami disebut SeekrFlow, sebuah platform akhir-ke-akhir yang lengkap yang melatih, memvalidasi, mengirim, dan menskala kecerdasan buatan yang dapat dipercaya. Ini memungkinkan perusahaan untuk memanfaatkan data mereka secara aman, untuk mengembangkan kecerdasan buatan yang dapat diandalkan yang dioptimalkan untuk industri mereka.

Apa fitur kritis dari SeekrFlow, dan bagaimana ia menyederhanakan proses pengembangan dan penerapan kecerdasan buatan untuk perusahaan?

SeekrFlow mengambil pendekatan dari atas ke bawah, dengan hasil pertama, yang memungkinkan perusahaan untuk memecahkan masalah menggunakan kecerdasan buatan dengan efisiensi operasional dan kesempatan pendapatan baru melalui satu platform yang kohesif. Integrasi ini termasuk akses data yang aman, persiapan data yang otomatis, penyetelan model, inferensi, pengaman, alat validasi, dan penskalaan, yang menghilangkan kebutuhan akan alat yang berbeda dan mengurangi kompleksitas bakat teknis internal yang mengelola aspek kecerdasan buatan secara terpisah.

Bagi perusahaan, kustomisasi adalah kunci, karena pendekatan “satu model untuk semua” tidak menyelesaikan masalah bisnis yang unik. SeekrFlow memungkinkan pelanggan untuk memanfaatkan data perusahaan mereka secara efektif dan aman, serta memenuhi kebutuhan industri mereka secara spesifik. Ini sangat penting dalam industri yang diatur, seperti keuangan, kesehatan, dan pemerintahan.

Pendekatan pelatihan kecerdasan buatan yang dibantu oleh Seekr secara signifikan mengurangi biaya, waktu, dan kebutuhan pengawasan manusia yang terkait dengan pelabelan dan pengumpulan data, dengan mensintesis data berkualitas tinggi dan spesifik domain menggunakan prinsip domain spesifik seperti dokumen kebijakan, pedoman, atau data perusahaan yang disediakan oleh pengguna.

Komitmen Seekr terhadap keandalan dan penjelasan tertanam di seluruh SeekrFlow. Tidak ada perusahaan yang ingin mengirimkan model ke produksi dan menemukan bahwa model tersebut menghasilkan informasi yang salah atau, dalam skenario terburuk, memberikan produk dan layanan mereka secara gratis! SeekrFlow termasuk alat yang diperlukan untuk memvalidasi model untuk keandalan, mengurangi kesalahan, dan memungkinkan pengguna untuk melihat apa yang mempengaruhi output model secara transparan, kembali ke data pelatihan asli. Dengan cara yang sama, insinyur perangkat lunak dan QA dapat memindai, menguji, dan memvalidasi kode mereka, kami menyediakan kemampuan yang sama untuk model kecerdasan buatan.

Semua ini disediakan dengan biaya yang optimal bagi perusahaan. Kolaborasi kami dengan Intel yang berjalan di AI Cloud Intel memungkinkan Seekr untuk memiliki harga terbaik yang kami berikan kepada pelanggan kami.

Bagaimana SeekrFlow menangani masalah umum seperti biaya, kompleksitas, akurasi, dan penjelasan dalam adopsi kecerdasan buatan?

Harga yang tinggi dan kelangkaan perangkat keras kecerdasan buatan adalah dua hambatan terbesar bagi perusahaan. Berkat kolaborasi dengan Intel, SeekrFlow memiliki akses ke sejumlah besar perangkat keras kecerdasan buatan generasi terbaru, yang dapat menangani beban kerja kecerdasan buatan skala besar dengan menggunakan akselerator AI Gaudi Intel dan CPU Xeon yang dioptimalkan untuk kecerdasan buatan.

Penting untuk dicatat bahwa SeekrFlow adalah netral penyedia cloud dan platform, dan berjalan di chip AI generasi terbaru dari Intel, Nvidia (NVDA ), dan lain-lain. Tujuan kami adalah untuk mengabstraksi kompleksitas perangkat keras kecerdasan buatan dan menghindari ketergantungan vendor, sambil membuka nilai unik dari setiap chip, perangkat lunak, dan ekosistem. Ini termasuk berjalan di cloud atau di datacenter yang dioperasikan.

Ketika membangun SeekrFlow, kami melihat jelas kurangnya kontestabilitas yang ada di alat lain. Kontestabilitas adalah sangat penting di Seekr, karena kami ingin memastikan bahwa pengguna memiliki hak untuk mengatakan bahwa sesuatu tidak akurat dan memiliki cara yang mudah untuk memperbaikinya. Dengan model dan platform lain, seringkali sulit atau tidak diketahui bagaimana memperbaiki kesalahan. Perbaikan titik setelah fakta seringkali tidak efektif, karena memanipulasi prompt input tidak menjamin bahwa jawaban akan diperbaiki setiap saat atau dalam setiap skenario. Kami memberikan pengguna semua alat untuk transparansi, penjelasan, dan cara yang sederhana untuk mengajar dan memperbaiki model dalam antarmuka pengguna yang bersih. Dari membangun di atas model dasar yang dapat dipercaya di dasar hingga alat pengujian dan pengukuran yang mudah digunakan, SeekrFlow memastikan hasil yang akurat yang dapat dipahami dan divalidasi. Sangat penting untuk memahami bahwa pengaman kecerdasan buatan bukanlah sesuatu yang hanya baik untuk dimiliki atau dipikirkan nanti – melainkan, kami menawarkan pelanggan alat penjelasan dan kontestabilitas yang sederhana untuk digunakan sejak awal implementasi.

Bagaimana platform ini mengintegrasikan persiapan data, penyetelan, hosting, dan inferensi untuk memungkinkan eksperimen dan adaptasi LLM yang lebih cepat?

SeekrFlow mengintegrasikan proses pengembangan kecerdasan buatan dari ujung ke ujung, dalam satu platform. Dari menangani pelabelan dan formatting data dengan pendekatan generasi kecerdasan buatan yang dibantu, hingga penyetelan model dasar, semua jalan hingga pengiriman untuk inferensi dan pemantauan model yang disetel. Selain itu, alat penjelasan SeekrFlow memungkinkan pemodel kecerdasan buatan untuk menemukan celah dalam pengetahuan model, memahami mengapa kesalahan dan halusinasi terjadi, dan langsung bertindak atasnya. Pendekatan terintegrasi ini memungkinkan eksperimen dan iterasi model yang cepat.

Apa teknologi atau metodologi unik lain yang telah dikembangkan Seekr untuk memastikan akurasi dan keandalan model kecerdasan buatan?

Seekr telah mengembangkan teknologi kecerdasan buatan paten untuk menilai kualitas, keandalan, bias, toksisitas, dan kebenaran konten, baik itu teks, visual, atau sinyal audio. Teknologi ini menyediakan data dan pengetahuan yang kaya yang dapat difusikan ke dalam model kecerdasan buatan, dalam bentuk data pelatihan, algoritma, atau pengaman model. Pada akhirnya, teknologi Seekr untuk menilai konten dapat dimanfaatkan untuk memastikan keamanan, faktualitas, kemanfaatan, ketidakberpihakan, dan keadilan model kecerdasan buatan. Contoh dari ini adalah SeekrAlign, yang membantu merek dan penerbit tumbuh dengan kecerdasan buatan yang bertanggung jawab yang melihat konteks konten melalui Skor Kesopanan paten kami.

Pendekatan Seekr terhadap penjelasan memastikan bahwa respon model kecerdasan buatan dapat dipahami dan dilacak. Ketika model kecerdasan buatan terlibat dalam keputusan yang memiliki konsekuensi, kebutuhan akan pemahaman dan kontestasi keputusan model kecerdasan buatan menjadi semakin penting.

Bagaimana SeekrFlow membantu pengembang memposisikan model kecerdasan buatan dengan nilai dan peraturan industri perusahaan?

Agen pemosisian prinsip SeekrFlow adalah fitur kritis yang membantu pengembang dan perusahaan mengurangi biaya total sistem RAG mereka dan memposisikan kecerdasan buatan mereka sesuai dengan prinsip, nilai, dan peraturan industri unik mereka tanpa perlu mengumpulkan dan memproses data terstruktur.

Agen Seekr menggunakan algoritma pemosisian lanjutan untuk memastikan bahwa perilaku LLM mematuhi standar unik dan pra-definisi ini, niat, aturan, atau nilai. Selama fase pelatihan dan inferensi, agen prinsip memandu pengguna melalui proses persiapan dan penyetelan data sambil terus mengintegrasikan input ahli dan pedoman etika. Ini memastikan bahwa model kecerdasan buatan kami beroperasi dalam batas yang dapat diterima.

Dengan menyediakan alat untuk menyesuaikan dan memaksakan prinsip ini, SeekrFlow memberdayakan perusahaan untuk mempertahankan kontrol atas aplikasi kecerdasan buatan mereka, memastikan bahwa mereka mencerminkan nilai perusahaan dan mematuhi persyaratan hukum dan industri. Kemampuan ini sangat penting untuk membangun kepercayaan dengan pelanggan dan pemangku kepentingan, karena menunjukkan komitmen terhadap kecerdasan buatan yang bertanggung jawab.

Apakah Anda dapat membahas kolaborasi dengan OneValley dan bagaimana teknologi Seekr memungkinkan platform Haystack AI?

OneValley adalah sumber daya tepercaya untuk puluhan ribu wirausaha dan bisnis kecil hingga menengah (UKM) di seluruh dunia. Masalah umum yang dihadapi para pemimpin ini adalah menemukan saran, produk, dan layanan yang tepat untuk memulai dan mengembangkan bisnis mereka. Model kecerdasan buatan spesifik industri Seekr memungkinkan OneValley untuk mengembangkan produk terbarunya, Haystack AI, yang menawarkan akses ke basis data besar produk yang tersedia, atributnya, harga, kelebihan dan kekurangan, dan lain-lain. Haystack AI membuat rekomendasi cerdas kepada pengguna dan menjawab pertanyaan, semua dapat diakses melalui chatbot dalam aplikasi.

Apa manfaat spesifik yang ditawarkan Haystack kepada startup dan UKM, dan bagaimana kecerdasan buatan Seekr meningkatkan manfaat ini?

Apakah pengguna memerlukan jawaban cepat untuk mengetahui kartu kredit bisnis mana yang menawarkan pengembalian uang tunai tertinggi dengan biaya terendah per pengguna dan APR terendah, atau untuk membandingkan dua sistem CRM yang mereka pertimbangkan sebagai solusi yang tepat, Haystack AI yang dipower oleh Seekr memberikan jawaban yang tepat dengan cepat dan efektif.

Haystack AI menjawab pertanyaan pengguna dengan cepat dan efektif. Menunggu dan bertanya kepada manusia untuk menjawab pertanyaan ini dan semua penelitian yang terkait dengan proses ini tidak dapat diatasi oleh pemimpin bisnis yang sangat sibuk. Pelanggan ingin jawaban yang akurat yang dapat mereka andalkan dengan cepat, tanpa harus menelusuri hasil (dan tautan sponsor!) mesin pencari web. Waktu mereka lebih baik dihabiskan untuk menjalankan bisnis inti mereka. Ini adalah contoh yang baik di mana kecerdasan buatan Seekr memecahkan kebutuhan bisnis yang nyata.

Bagaimana Seekr memastikan bahwa solusi kecerdasan buatan mereka tetap skalabel dan efektif biaya untuk bisnis semua ukuran?

Jawaban sederhana adalah untuk memastikan skala dan biaya rendah, Anda memerlukan kolaborasi strategis untuk mengakses komputasi skala besar. Menyediakan kecerdasan buatan yang skalabel, efektif biaya, dan dapat diandalkan memerlukan pernikahan antara perangkat lunak kecerdasan buatan kelas dunia yang berjalan di perangkat keras generasi terbaru. Kolaborasi kami dengan Intel melibatkan komitmen multi-tahun untuk mengakses sejumlah besar perangkat keras kecerdasan buatan, termasuk peningkatan melalui generasi dari Gaudi 2 saat ini hingga Gaudi 3 pada awal 2025 dan seterusnya ke inovasi chip berikutnya. Kami bertaruh bahwa ketersediaan dan harga terbaik komputasi akan datang dari produsen silicon itu sendiri, di mana Intel adalah salah satu dari dua di dunia yang memproduksi chipnya sendiri. Ini menyelesaikan masalah kelangkaan, terutama karena kami dan pelanggan kami berkembang dan memastikan harga terbaik yang menguntungkan pelanggan.

Pelanggan Seekr yang menjalankan layanan hosting mereka sendiri hanya membayar untuk penggunaan yang sebenarnya. Kami tidak mengenakan biaya untuk GPU yang tidak aktif. SeekrFlow memiliki model harga yang sangat kompetitif dibandingkan dengan kontemporer di ruang ini, yang mendukung penerapan terkecil hingga terbesar.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Seekr.