Bilmediğini bilen yapay zekâ + test

• Eğitim verileri yetmediğinde
• Algoritmaların hizmetinde felsefe
• Sorun nerede
• Yolda bir sınav
• Yalnızca arabalar değil
• Kontrol altındaki plazma
• Aşırı özgüvenli sohbet botlarına çare
• Kısaca
• Beş soru: bilmediğini biliyor musun? (test)

⇑Eğitim verileri yetmediğinde

Yapay zekâ bugün hemen her yere ulaşıyor. Ekonomiyi ilerletiyor, evlerimizi, okullarımızı ve işyerlerimizi değiştiriyor. Yine de başarılarından daha az söz edilen bir zayıf noktası var. Bir model belirli bir veri kümesinden öğrenir, sonra her zaman eğitim sırasında gördüğüne benzemeyen bir dünyada çalışmak zorundadır. Sorunlar tam da bu noktada başlar.

AB tarafından finanse edilen ve Birleşik Krallık’taki Oxford Brookes Üniversitesi’nin koordine ettiği E-pi projesi bu sorunu ele aldı. Ekibi beş yıl boyunca epistemik yapay zekâ denen alan üzerinde çalıştı; yani belirsizlikle daha iyi başa çıkan ve eğitim verilerinden farklı durumlarda bile tahmin yapabilen bir yapay zekâ üzerinde.

⇑Algoritmaların hizmetinde felsefe

Epistemik sözcüğü, bilgiyi inceleyen felsefe dalı olan epistemolojiden gelir. İnsan için tamamen doğal olan bir yetenek de buradan gelir: bildiklerimizin belirli bir durumda yetmediğini fark etmek. Bu, insan zekâsının temel unsurlarından biridir.

Bir makine bunu kendi başına yapamaz. Yapay zekâ için kendi bilgisizliğini fark etmek kuramsal ve matematiksel çerçevelere dayanmak zorundadır. Başka bir deyişle, artık emin olmama hissi, algoritmanın tasarımına kelimenin tam anlamıyla yazılmalıdır.

⇑Sorun nerede

Proje koordinatörü Fabio Cuzzolin, klasik makine öğrenmesi algoritmalarının gerçekte ortaya çıkabilecek tüm verileri değil, nispeten küçük bir eğitim kümesini açıklamaya odaklandığına dikkat çekiyor. Sonucu tahmin etmek kolay. Araştırmacı, “Geleneksel yapay zekâ modelleri, verileri üreten olasılık dağılımları eğitim zamanındakilerden farklı olduğunda sağlam tahminler yapmakta zorlanıyor” diye açıklıyor.

Basitçe söylemek gerekirse, dünyanın yalnızca bir dilimini iyi tanıyan bir model, bu dilimin dışında bir şeyle karşılaştığında yolunu kaybedebilir. E-pi konsorsiyumu, ikinci dereceden belirsizlik kuramının çözüm için en umut verici temel olduğu sonucuna vardı. Projenin sunumları uzmanlık konferanslarında coşkuyla karşılandı ve Cuzzolin, Ufuk Avrupa kapsamındaki birkaç ilgili teklife katılmaya davet edildi. Ekibin çalışması, epistemik yapay zekâ için uluslararası bir ekosistem kurulmasına yardımcı olmayı amaçlıyor.

⇑Yolda bir sınav

Öngörülemeyenle başa çıkması gereken bir yapay zekâyı sınamak için en iyi yer neresidir? Araştırmacılar otonom araçları seçti. Yolda bir durum, yayaların davranışı, aşırı hava koşulları ya da alışılmadık bir yol düzeni yüzünden birdenbire her kalıbın dışına çıkabilir. Mevcut sistemlerin hataları pahalıya mal olabilir ve en kötü durumda ölümcül yaralanmalara yol açabilir.

Ekip, otonom araçların yol olaylarını tanımasına ayrılmış ROAD veri kümesini kullandı. Bu küme hem modeli eğitmek hem de yeni epistemik nesne dedektörlerini sınamak için kullanıldı. ROAD sürekli genişletiliyor ve Avrupa’dan, Kuzey Amerika’dan, Dubai’den ve Abu Dabi’den videolar içeriyor; bu da onu gerçekten küresel bir kaynak haline getirdi.

⇑Yalnızca arabalar değil

Daha güvenli sürücüsüz arabalar hedeflerden yalnızca biri. Aynı mantıktan başka alanlar da yararlanabilir:

• insanların öngörülemeyen davranışlarıyla başa çıkması gereken endüstriyel robotlar,
• aynı zorlukla karşı karşıya olan cerrahi robotlar,
• plazmanın davranışının tahmin edilmesi gereken nükleer füzyon araştırmaları,
• büyük dil modelleri dahil üretken yapay zekâ.

⇑Kontrol altındaki plazma

Nükleer füzyon özellikle zorlu bir örnek. Cuzzolin, “Füzyon plazmasının bir tokamak içinde nasıl akacağını ve reaktörlerin hangi bölgelerinin bundan daha çok etkileneceğini tahmin etmek için belirsizliğin farkında olan sinirsel operatör modelleri geliştirmeye çalışıyoruz” diyor. Bu tür modellerin amacı, plazmanın bir tokamak, yani reaktör içindeki akışını tahmin etmek ve hangi bölgelerinin en çok maruz kalacağını göstermek. Burada da mesele aynı: bir model yalnızca sonuç vermemeli, ondan ne kadar emin olduğunu da dürüstçe açıklamalı.

⇑Aşırı özgüvenli sohbet botlarına çare

Bir başka yön, üretken yapay zekâyla ilgili. Cuzzolin, “Günümüzün en gelişmiş büyük dil modelleri (LLM) yanlış ifadeler üretmeleriyle biliniyor” diyor. Ona göre çıkış yolu, yeni bir paradigmaya dayanan modeller olabilir: “Epistemik LLM’ler, bu modellerin aşırı özgüvenini önemli ölçüde azaltabilir.”

Planlar ayrıca zihin kuramıyla ilgili çözümleri ve sürekli öğrenme yoluyla gelişen sistemleri de kapsıyor. Ortak payda aynı kalıyor: yapay zekâ yalnızca yanıt vermemeli, yanıtının ne zaman sallantılı temellere dayandığını da bilmeli.

⇑Kısaca

Toplam maliyeti yaklaşık 3 milyon avro olan E-pi projesi, daha güvenli otonom araçların ve robotların, ayrıca halüsinasyon görmeyen üretken yapay zekânın geliştirilmesine katkıda bulundu. Ayrıca makine öğrenmesi uzmanlarından oluşan dinamik bir ağ kurdu. Yazarlarına göre epistemik yapay zekâ dünyayı ve gündelik hayatımızı değiştirme potansiyeline sahip. Ve her şey çok insani bir beceriyle başlıyor: bir şeyi bilmediğini kabul etmek.

⇑Beş soru: bilmediğini biliyor musun? (test)