Resim kaynağı: Unbounded AI aracı tarafından oluşturulmuştur
Yapay zeka girişimi OpenAI'nin CEO'sunun yaptığı son açıklamaya göre OpenAI hala GPT-5'i eğitmedi.
OpenAI CEO'su Sam Altman, 7 Haziran Çarşamba günü Hindistan'ın "Economic Times" tarafından düzenlenen bir konferansta söyledi. "Bu modeli piyasaya sürmeden önce yapacak çok işimiz var."
"Gerekli olduğunu düşündüğümüz yeni fikirler üzerinde çalışıyoruz, ancak henüz başlamaya (GPT-5 eğitimi) kesinlikle yakın değiliz."
Sadece birkaç ay önce, birçok endüstri yöneticisi ve akademisyen, Sam Altman'ın büyük ölçekli dil modelinin hızlı gelişimiyle ilgili endişelerini dile getirdikten sonra, yapay zeka girişimi o sırada GPT-4'ün halefi GPT'yi geliştirmeyeceğine söz verdi. bir süre". -5.
Bunu yakın zamanda yapmayacağım
Mart ayının sonunda, aralarında Tesla CEO'su Elon Musk ve Apple'ın kurucu ortağı Steve Wozniak'ın da bulunduğu 1.100'den fazla sektör yöneticisi ve uzmanı, "tüm yapay zeka laboratuvarlarının GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimini derhal askıya almasını" isteyen bir açık mektup imzaladı. en az 6 ay."
Birkaç hafta sonra mektuba yanıt veren Altman, "bir moratoryuma ihtiyaç duyduğumuz teknik ayrıntıların çoğunu dışarıda bırakıyor" dedi. Altman, temkinli olmanın ve güvenliğe giderek daha sıkı bir şekilde yaklaşmanın önemli olduğunu kabul etse de, mektubun sorunu çözmenin en iyi yolu olduğunu kabul etmiyor. Ayrıca OpenAI'nin GPT-5'i eğitmeye başlamadığı ve bunu "bir süredir" planlamadığı konusunda ısrar etti.
Altmam çarşamba günü yapay zeka ile ilgili en sesli endişelerden bazılarına karşı geri adım attı ve girişimin potansiyel tehlikeleri dış denetimler, kırmızı ekip oluşturma ve güvenlik testleri gibi daha anlamlı önlemlerle zaten değerlendirdiğini söyledi.
Red-teaming, düşmanca bir yaklaşım benimseyerek planlara, politikalara, kurumlara ve varsayımlara titizlikle meydan okuma pratiğine atıfta bulunan bir test yöntemidir. OpenAI, bunu dil modellerindeki tehlikeleri keşfetmek ve bunları azaltmak için kullanır.
Altman ayrıca, "GPT-4'ü bitirdiğimizde, onu yayınlamaya hazır olmamız altı aydan fazla sürdü" diye ekledi. . Yayınlamaya hazır.
Daha önceki bir röportajda Altman, "Sahip olduğumuz tek yasal gereksinimler kendimiz ve daha büyük şirketler içindir" demişti.
çok ülkeli tur
Altman'ın Hindistan gezisi, dünya çapındaki kanun yapıcılar ve endüstri figürleriyle toplantı ve güven inşa etme konusundaki aktif katılımının bir adımını yansıtıyor.
Toplantıda Altman, yasa koyucuları, kazaları en aza indirecek karşı önlemler oluşturmak için yapay zekanın potansiyel kötüye kullanımı ve diğer olumsuz etkilerini ciddi şekilde düşünmeye de aktif olarak çağırdı.
6 Haziran Salı günü Altman, BAE ziyareti sırasında AI'yi denetlemek için IAEA'ya benzer bir kuruluşun kurulmasını önerdi. 1957'de kurulan IAEA, nükleer enerjinin barışçıl gelişimine adanmış bağımsız bir hükümetler arası uluslararası kuruluştur.
Altman, IAEA'nın iyi bir örnek olduğuna işaret ederek, çok tehlikeli bir teknoloji karşısında koruyucu önlemler oluşturduktan sonra hem fırsatları hem de güvenliği dikkate alabiliyor.
View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
OpenAI CEO'su "güvence hapı" yayınladı: GPT5 kısa vadede eğitilmeyecek
**Kaynak: **Finans Derneği
Zhou Ziyi'yi düzenleyin
Yapay zeka girişimi OpenAI'nin CEO'sunun yaptığı son açıklamaya göre OpenAI hala GPT-5'i eğitmedi.
OpenAI CEO'su Sam Altman, 7 Haziran Çarşamba günü Hindistan'ın "Economic Times" tarafından düzenlenen bir konferansta söyledi. "Bu modeli piyasaya sürmeden önce yapacak çok işimiz var."
"Gerekli olduğunu düşündüğümüz yeni fikirler üzerinde çalışıyoruz, ancak henüz başlamaya (GPT-5 eğitimi) kesinlikle yakın değiliz."
Sadece birkaç ay önce, birçok endüstri yöneticisi ve akademisyen, Sam Altman'ın büyük ölçekli dil modelinin hızlı gelişimiyle ilgili endişelerini dile getirdikten sonra, yapay zeka girişimi o sırada GPT-4'ün halefi GPT'yi geliştirmeyeceğine söz verdi. bir süre". -5.
Bunu yakın zamanda yapmayacağım
Mart ayının sonunda, aralarında Tesla CEO'su Elon Musk ve Apple'ın kurucu ortağı Steve Wozniak'ın da bulunduğu 1.100'den fazla sektör yöneticisi ve uzmanı, "tüm yapay zeka laboratuvarlarının GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimini derhal askıya almasını" isteyen bir açık mektup imzaladı. en az 6 ay."
Birkaç hafta sonra mektuba yanıt veren Altman, "bir moratoryuma ihtiyaç duyduğumuz teknik ayrıntıların çoğunu dışarıda bırakıyor" dedi. Altman, temkinli olmanın ve güvenliğe giderek daha sıkı bir şekilde yaklaşmanın önemli olduğunu kabul etse de, mektubun sorunu çözmenin en iyi yolu olduğunu kabul etmiyor. Ayrıca OpenAI'nin GPT-5'i eğitmeye başlamadığı ve bunu "bir süredir" planlamadığı konusunda ısrar etti.
Altmam çarşamba günü yapay zeka ile ilgili en sesli endişelerden bazılarına karşı geri adım attı ve girişimin potansiyel tehlikeleri dış denetimler, kırmızı ekip oluşturma ve güvenlik testleri gibi daha anlamlı önlemlerle zaten değerlendirdiğini söyledi.
Red-teaming, düşmanca bir yaklaşım benimseyerek planlara, politikalara, kurumlara ve varsayımlara titizlikle meydan okuma pratiğine atıfta bulunan bir test yöntemidir. OpenAI, bunu dil modellerindeki tehlikeleri keşfetmek ve bunları azaltmak için kullanır.
Altman ayrıca, "GPT-4'ü bitirdiğimizde, onu yayınlamaya hazır olmamız altı aydan fazla sürdü" diye ekledi. . Yayınlamaya hazır.
Daha önceki bir röportajda Altman, "Sahip olduğumuz tek yasal gereksinimler kendimiz ve daha büyük şirketler içindir" demişti.
çok ülkeli tur
Altman'ın Hindistan gezisi, dünya çapındaki kanun yapıcılar ve endüstri figürleriyle toplantı ve güven inşa etme konusundaki aktif katılımının bir adımını yansıtıyor.
Toplantıda Altman, yasa koyucuları, kazaları en aza indirecek karşı önlemler oluşturmak için yapay zekanın potansiyel kötüye kullanımı ve diğer olumsuz etkilerini ciddi şekilde düşünmeye de aktif olarak çağırdı.
6 Haziran Salı günü Altman, BAE ziyareti sırasında AI'yi denetlemek için IAEA'ya benzer bir kuruluşun kurulmasını önerdi. 1957'de kurulan IAEA, nükleer enerjinin barışçıl gelişimine adanmış bağımsız bir hükümetler arası uluslararası kuruluştur.
Altman, IAEA'nın iyi bir örnek olduğuna işaret ederek, çok tehlikeli bir teknoloji karşısında koruyucu önlemler oluşturduktan sonra hem fırsatları hem de güvenliği dikkate alabiliyor.