Menu

OpenAI, insan üzere bir niyet zinciri oluşturan lisan modeli istiyor

OpenAI, yapay zekanın “halüsinasyon sorununu” çözmek için insan üzere bir fikir zinciri oluşturan lisan modeli istiyor.

admin 9 ayönce 0

OpenAI, AI’nin (yapay zeka) gerçek olmayan şeyler uydurduğu yaygın “halüsinasyon sorununu” ortadan kaldırmada yaptığı birtakım ilerlemeleri özetleyen yeni bir makale yayınladı. Makale, halüsinasyonları ve nasıl ortaya çıktıklarını belirleyip temizlemek için kullanılan sonuç denetimi ve süreç denetimi olarak isimlendirilen iki modeli özetiyor.

Ödül modelleri, OpenAI’nin sonuç kontrolü modelinde yapay zekanın verdiği en son sonuç hakkında geri bildirim sağlamak için eğitiliyor. Süreç denetiminde ise ödül modeli, insan gibisi bir fikir zinciri oluşturarak izlenen yolun her adımında geri bildirim sağlar.

OpenAI’nin araştırma makalesinde belirttiğine nazaran, her iki model de bir matematik bilgi kümesi üzerinde test edildi ve süreç kontrol yolunun “önemli ölçüde daha yeterli performans sağladığı” bulundu. Fakat süreç kontrolü formülünün şu ana kadar sırf matematik alanında test edildiğini ve genel bilgi alanında nasıl performans gösterdiğini görmek için daha fazla çalışma gerekeceğini belirtmek kıymetli olabilir.

Süreç kontrol prosedürünün muhtemel sonuçlarını açıklayan OpenAI, “Bu sonuçlar genelleştirilirse, süreç kontrolünün bize her iki seçeneğin en güzel özelliklerini bir ortaya getiren bir model – sonuç kontrolünden hem daha güzel performans gösteren hem de daha uyumlu bir metot – sunduğunu görebiliriz” dedi.

Bu adım adım doğrulamanın halüsinasyonları daha genel olarak ortadan kaldırmaya ne kadar yardımcı olacağını söylemek için şimdi çok erken üzere gözüküyor. Lakin halüsinasyonların şu anda LLM’lerin muhtemelen en büyük sorunu olduğu düşünülürse, umarız tesirli bir tahlil olacaktır.

OpenAI, halka açık olan ChatGPT hizmetinde süreç kontrolüne ne vakit geçileceği konusunda bir iddiada bulunmadı. Yeni prosedür hala araştırma kademesinde bulunuyor ve genel bilgiler üzerinde test edilmesi gerekiyor.

OpenAI, birinci sonuçlar uygun olsa da daha inançlı usullerin ahenk zorluğu ismi verilen düşük performansa neden olabileceğinden bahsediyor. Sonuçlar, şu ana kadar süreç kontrolünün matematik sorunları üzerinde çalışırken bu türlü bir performans düşüşü yaşamadığını öneriyor, lakin daha genel bilgilerde sonucun nasıl olacağını şimdi bilmiyoruz.

Oyun Haberleri

0 Kullanıcı Oyu ( 0 out of 0 )

Değerlendirme

– Advertisement – LoL RP Oyuneks
Yazar

– Advertisement –
LoL RP Oyuneks