9 Haziran'da iki günlük "Pekin Zhiyuan Konferansı", Zhongguancun Ulusal Bağımsız İnovasyon Gösteri Bölgesi Konferans Merkezi'nde başarıyla açıldı.
Zhiyuan Konferansı, Zhiyuan Araştırma Enstitüsü'nün (Çin'deki OpenAI'nin Çin'deki en güçlü Yapay Zeka Araştırma Enstitüsü olarak da bilinir) ev sahipliği yaptığı, yapay zeka konusunda yıllık uluslararası bir üst düzey profesyonel değişim etkinliğidir. Bahar Şenliği Galası" - katılım programından da görülebileceği gibi Misafirler:
Turing Ödülü sahibi Geoffrey Hinton, Yann LeCun (bu aynı zamanda derin öğrenmede Büyük Üç'ün ikincisidir, önceki konferansa başka bir Bengio katıldı), Joseph Sifakis ve Yao Qizhi, Zhang Bo, Zheng Nanning, Xie Xiaoliang, Zhang Hongjiang, Zhang Yaqin ve diğer akademisyenler, California Üniversitesi, Berkeley'de Yapay Zeka Sistemleri Merkezi'nin kurucusu Stuart Russell, Massachusetts Institute of Technology'de Future of Life Enstitüsü'nün kurucusu Max Tegmark, **OpenAI CEO'su Sam Altman ** (çevrimiçi olmasına rağmen bu aynı zamanda Çin'deki ilk konuşmasıdır), Meta, Microsoft, Google ve diğer büyük şirketler ve DeepMind, Anthropic, HuggingFace, Midjourney, Stability AI ve diğer yıldız ekip üyeleri, toplamda 200'den fazla en iyi yapay zeka uzmanları...
Geçtiğimiz iki gün içinde konferansın canlı yayınını takip ettim Teknolojiden anlamayan bir sosyal bilimler öğrencisi olarak aslında büyük bir ilgiyle dinledim ve çok şey kazandım.
Ancak, son Turing Ödülü sahibi ve "derin öğrenmenin babası" Geoffrey Hinton'un konuşmasını okuduktan sonra, içimi güçlü ve karmaşık bir duygu sardı:
Bir yandan, yapay zeka araştırmacılarının çeşitli ileri teknolojileri keşfedip hayal ettiklerini görünce, doğal olarak yapay zekanın ve hatta gelecekteki genel yapay zeka AGI**'nın gerçekleştirilmesine daha fazla güven duyacaklar;
Öte yandan, son teknoloji uzmanların ve akademisyenlerin AI'nın risklerini tartıştığını duymak, ayrıca risklerle nasıl başa çıkılacağına dair insan cehaleti ve hor görmesi ve insanoğlunun geleceği hakkında endişelerle dolu - en temel sorun, Hinton'un sözleri: tarih Dünyada daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiği bir emsal görülmemiştir.**Eğer kurbağalar insanları icat ettiyse, sizce kontrolü kim ele alacak? Kurbağa mı yoksa insan mı? **
İki günlük konferanstaki bilgi patlaması nedeniyle, bazı önemli konuşmaların materyallerini düzenlemek için biraz zaman ayırdım ve bu arada bazı düşüncelerimi daha sonra gözden geçirebilmek ve ilgilenen herkesle paylaşabilmek için kaydettim. yapay zekanın ilerlemesini önemser.
Açıklama : Aşağıda [not] ile işaretlenen kısım şahsi görüşüm olup, içerik alıntı olarak özetlenmiştir (beceremem kısıtlı olduğundan -_-|| yazamıyorum), kaynak link adresindedir. her bölümün sonu ve bazıları değiştirildi.
OpenAI CEO'su Sam Altman: AGI on yıl içinde ortaya çıkabilir
10 Haziran'da tüm gün düzenlenen "AI Safety and Alignment" forumunda, OpenAI kurucu ortağı Sam Altman bir açılış konuşması yaptı - çevrimiçi olmasına rağmen Çin'deki ilk konuşmasıydı.
Konuşma, modelin yorumlanabilirliği, ölçeklenebilirliği ve genelleştirilebilirliği hakkında fikir verdi. Ardından, Zhiyuan Araştırma Enstitüsü başkanı Sam Altman ve Zhang Hongjiang, uluslararası işbirliğinin nasıl derinleştirileceğini, daha güvenli yapay zeka araştırmalarının nasıl yürütüleceğini ve içinde bulunduğumuz çağda yapay zekanın gelecekteki riskleriyle nasıl başa çıkılacağını tartışan bir soru-cevap zirvesi gerçekleştirdi. büyük ölçekli AI modelleri.
Mükemmel özet:
Mevcut AI devriminin bu kadar etkili olmasının nedeni, yalnızca etkisinin ölçeği değil, aynı zamanda ilerleme hızıdır. Bu hem kazanç hem de risk getirir.
Yapay zekanın potansiyel temettüleri çok büyük. Ancak üretkenliği ve yaşam standartlarını iyileştirmek için kullanabilmek için riski birlikte yönetmeliyiz.
Giderek daha güçlü hale gelen yapay zeka sistemlerinin ortaya çıkmasıyla birlikte* küresel iş birliğinin riskleri hiç bu kadar yüksek olmamıştı. Tarihte büyük güçler genellikle fikir ayrılıklarına sahiptir, ancak en önemli konuların bazılarında işbirliği ve koordinasyon gereklidir. **Gelişen AGI güvenliği, ortak çıkarlar bulmamız gereken en önemli alanlardan biridir. Altman konuşmasında, küresel AI güvenlik uyumu ve denetiminin gerekliliğini defalarca vurguladı ve özellikle Tao Te Ching'den bir cümle alıntıladı: Bin millik bir yolculuk, tek bir adımla başlar. Hizalama hala açık bir konudur.
**Belki 100.000 satırlık ikili kod içeren bir AGI sistemi hayal edin, insan denetçilerin böyle bir modelin kötü bir şey yapıp yapmadığını öğrenmesi pek olası değildir. **
**GPT-4'ün hizalamayı tamamlaması sekiz ay sürdü. **Ancak, ilgili araştırmalar hala geliştirilmektedir.**Temel olarak ölçeklenebilirlik ve yorumlanabilirlik olmak üzere iki kısma ayrılır. Biri, insanlara diğer yapay zeka sistemlerini denetlemede yardımcı olmak için AI sistemlerini kullanmaya çalışan ölçeklenebilir denetimdir. İkincisi, büyük modelin iç işleyişinin "kara kutusunu" anlamaya çalışan yorumlanabilirliktir. Nihayetinde OpenAI, hizalama araştırmasına yardımcı olmak için AI sistemlerini eğitmeyi amaçlamaktadır.
Zhang Hongjiang tarafından genel yapay zeka (AGI) çağından ne kadar uzakta olduğu sorulduğunda Sam Altman, "Önümüzdeki 10 yıl içinde süper yapay zeka sistemleri doğacak, ancak belirli bir zaman noktasını tahmin etmek zor" dedi. ayrıca, "Yeni teknolojilerin dünyayı tamamen değiştirme hızı, hayal gücünün çok ötesinde."
OpenAI'nin büyük modelleri açıp açmayacağı sorulduğunda **Altman, gelecekte daha fazla açık kaynak olacağını ancak belirli bir model ve zaman çizelgesi olmadığını söyledi. Ayrıca, yakın zamanda GPT-5'in olmayacağını da söyledi. ** Toplantıdan sonra Altman, Zhiyuan Konferansında konuşma yapmaya davet edildiği için minnettarlığını ifade eden bir mesaj yayınladı.
Turing Ödülü sahibi Yang Likun: Beş yıl sonra kimse GPT modelini kullanmayacak ve dünya modeli AGI'nin geleceği
Derin öğrenmenin üç devinden biri olan ve Turing Ödülü sahibi Yang Likun, "Öğrenebilen, Akıl Yürüten ve Planlayan Makinelere Doğru" başlıklı bir açılış konuşması yaptı. öğrenebilen, akıl yürütebilen ve planlayabilen bir makine: dünya modeli.
Konuşmanın önemli noktaları:
**Yapay zekanın yeteneği, insanların ve hayvanların yeteneğinden hâlâ çok uzaktır - boşluk esas olarak mantıksal akıl yürütme ve planlamaya yansır ve büyük model şu anda yalnızca "içgüdüsel olarak yanıt verebilir". ****Kendi kendine denetimli öğrenme nedir? Kendi kendine denetimli öğrenme, girdilerdeki bağımlılıkları yakalamakla ilgilidir. **
Eğitim sistemi, gördüklerimizle görmediklerimiz arasındaki bağımlılıkları yakalar. Mevcut büyük modellerin performansı, bir trilyon jeton veya iki trilyon jeton verisi üzerinde eğitilirlerse şaşırtıcıdır.
**Akışkanlığına kolayca aldanırız. Ama sonunda aptalca hatalar yaparlar. Olgusal hatalar, mantıksal hatalar, tutarsızlıklar yaparlar, muhakemeleri sınırlıdır, zararlı içerik üretirler. **Bu büyük modelin yeniden eğitilmesi gerekiyor.
**Yapay zekanın gerçekten insanlar gibi plan yapması nasıl sağlanır? İnsanların ve hayvanların dünyayı görerek ve deneyimleyerek nasıl hızla öğrendiklerini görün. **
Yang Likun, yapay zekanın gelecekte geliştirilmesinin üç büyük zorlukla karşı karşıya olduğuna inanıyor: **Dünyanın temsillerini öğrenmek, dünya modellerini tahmin etmek ve kendi kendini denetleyen öğrenmeyi kullanmak. **
Birincisi, dünyanın temsili ve tahmin modelini öğrenmektir, Elbette kendi kendini denetleyen bir şekilde öğrenilebilir.
**İkinci olarak, akıl yürütmeyi öğrenin. **Bu, psikolog Daniel Kahneman'ın Sistem 1 ve Sistem 2 kavramına karşılık gelir. Sistem 1, bilinçaltı hesaplamalara karşılık gelen insan davranışı veya eylemleri, düşünmeden yapılabilecek şeyler iken, Sistem 2, tüm düşünme gücünüzü bilinçli ve amaçlı olarak tamamlamak için kullandığınız görevlerdir. Şu anda, yapay zeka temelde yalnızca Sistem 1'deki işlevleri gerçekleştirebilir ve tamamlanmamıştır;
Son zorluk, karmaşık görevleri daha basit görevlere ayırarak karmaşık eylem dizilerinin nasıl planlanacağıdır ve hiyerarşik bir şekilde çalışır.
Sonuç olarak Yang Likun, **konfigüratör modülü, algı modülü, dünya modeli, maliyet modülü, aktör modülü, kısa süreli bellek modülü dahil olmak üzere altı bağımsız modülden oluşan ** "Dünya Modeli"ni önerdi. **Dünya modeli için mimari ve eğitim paradigması tasarlamanın, önümüzdeki birkaç on yılda yapay zekanın gelişiminin önündeki gerçek engel olduğuna inanıyor.
LeCun, yapay zekanın insanları yok edeceği fikrini her zaman küçümsediğini ifade etti ve bugünün yapay zekasının bir köpek kadar zeki olmadığına ve bu endişenin gereksiz olduğuna inanıyor. **Yapay zeka sisteminin insanlar için varoluşsal bir risk oluşturup oluşturmayacağı sorulduğunda LeCun, **Henüz bir süper yapay zekamız yok, peki süper yapay zeka sistemini nasıl güvenli hale getirebiliriz? **
** "Bugün insanlara süper zeki bir sistemin insanlar için güvenli olduğunu garanti edebilir miyiz diye sorun, bu cevaplanamaz bir sorudur. Bir şeyi güvenli hale getirin.**Bu, 1930'da bir havacılık mühendisine bir turbojeti güvenli ve güvenilir hale getirebilir misiniz diye sorsanız, mühendis "Turbojet nedir?" "Çünkü turbojet 1930'da icat edilmemişti. Yani biz de aynı durumdayız. Bu sistemleri güvenli hale getiremeyeceğimizi çünkü onları icat etmediğimizi iddia etmek için biraz erken. onları icat etti— —belki benim bulduğum plana benzerler, o zaman tartışmaya değer.”
Profesör Max Tegmark, MIT Yapay Zeka ve Temel Etkileşim Araştırması Merkezi: Mekanik Açıklanabilirlik ile Yapay Zekayı Kontrol Etmek
Max Tegmark, şu anda Massachusetts Teknoloji Enstitüsü'nde kadrolu fizik profesörü, Temel Sorunlar Enstitüsü'nün bilimsel direktörü, Yaşamın Geleceği Enstitüsü'nün kurucusu ve iyi bilinen "Yapay Zeka araştırma girişimini başlatan kişi" (the Mart ayının sonunda Elon Musk, Turing Ödülü sahibi Yoshua Bengio, Apple kurucu ortağı Steve Wozniak ve diğer 1000'den fazla ünlünün katıldığı girişim, Zhiyuan Konferansı'nda "Yapay Zekayı Kontrol Etme" (Keeping AI kontrol altında) konulu harika bir konuşma yaptı. ve Tsinghua Üniversitesi akademisyeni Zhang Yaqin ile yapay zeka etik güvenliği ve risk önleme konularını tartışmak için bir diyalog kurduk.
Konuşmada, aslında insan bilgisinin sinir ağlarındaki bu karmaşık bağlantılarda nasıl depolandığına dair bir çalışma olan AI'nın mekanik açıklanabilirliği ayrıntılı olarak ele alındı. Bu yöndeki araştırmalar devam ederse, sonunda LLM geniş dil modelinin neden zeka ürettiği şeklindeki nihai soruyu gerçekten açıklayabilir.
Konuşmaya ek olarak, ilginç olan şu ki, "Pause AI Research Initiative" in başlatıcısı olarak açılış konuşması, daha derinlemesine bir AI büyük ölçekli model araştırmasının nasıl yürütüleceğine odaklanıyor. Belki de sonunda Max'in kendisinin de söylediği gibi, AI devlerinden Profesör Yang Likun'un söylediği mahkum kişi değil, aslında AI için umut ve özlem dolu, ancak tüm bunların daha güçlü olmasını sağlayabiliriz. zekalar bize hizmet eder ve onları kullanır Bilim kurgu yazarlarının geçmişte hayal ettiklerinden daha ilham verici bir gelecek yaratmaya gelir. **
Not: Çok sıkıcı olacağını düşünmüştüm ama beklenmedik bir şekilde çok heyecanlıydı ve bir saat boyunca en uzun konuşmayı zevkle izledim! **Sık sık ders veren bir profesörden beklendiği gibi, çok büyüleyici, teorik olarak çok derin ve anlaşılması kolay. Daha da şaşırtıcı olan şey, onun yalnızca ağırbaşlı bir AI rakibi olmaması değil, aynı zamanda daha iyi bir AI'nın savunucusu olmasıdır! **Çince de biliyorum ve konuşma yaparken kendimi işe almayı unutmuyorum...
Harika fikirlerden alıntılar:
Mekanik yorumlanabilirlik çok ilginç bir alandır. Akıllı görevleri yerine getirmek için anlamadığınız karmaşık bir sinir ağını eğitiyorsunuz ve sonra bunu nasıl yaptığını anlamaya çalışıyorsunuz.
Bunu nasıl yapabiliriz? Üç farklı hırs düzeyine sahip olabilirsiniz. **En düşük hırs seviyesi, sadece güvenilirliğini, ona ne kadar güvenmeniz gerektiğini teşhis etmektir. **Örneğin, araba kullanırken frenlerinizin nasıl çalıştığını anlamasanız bile en azından frenlerin sizi yavaşlatacağına güvenip güvenemeyeceğinizi bilmek istersiniz.
**Bir sonraki hırs seviyesi, daha güvenilir olabilmesi için onu daha iyi anlamaktır. **Nihai hedef çok iddialı ve beklediğim de bu, onların makine öğrenimi sistemlerinden öğrendikleri tüm bilgileri çıkarabilmemiz ve istediğimizi yapacaklarını göstermek için bunları diğer sistemlerde yeniden uygulayabilmemiz. **
Yavaşlayalım, daha iyi korkuluklar geliştirdiğimizden emin olalım. Mektup, daha önce bahsedilen bir an için duralım dedi. Açık olmak istiyorum, AI'yı duraklatmamız gerektiğini söylemiyor, hemen hemen hiçbir şeyi duraklatmamız gerektiğini söylemiyor. Bu toplantıda şu ana kadar sizin yaptığınız harika araştırmaların neredeyse tamamını yapmaya devam etmemiz gerektiğini duyduk. **GPT-4'ten daha güçlü sistemleri geliştirmeyi duraklatmamız gerektiğini söylüyor. **Dolayısıyla bu, bazı batılı şirketler için çoğunlukla bir duraklamadır.
Şimdi, bunun nedeni, tam olarak bizi kontrolden çıkarabilecek sistemler, yeterince anlamadığımız en hızlı, süper güçlü sistemler. Ara vermenin amacı, yapay zekayı daha çok biyoteknolojiye benzetmektir, biyoteknoloji alanında, sadece bir şirket olduğunuzu söyleyemezsiniz, hey, yeni bir ilacım var, keşfettim ve yarın Pekin'deki büyük süpermarketlerde satılmaya başlayacak. Önce Çin hükümetindeki veya ABD hükümetindeki uzmanları bunun güvenli bir ilaç olduğuna, yararlarının zararlarından daha fazla olduğuna, bir inceleme süreci olduğuna ikna etmelisin ve sonra bunu yapabilirsin.
Bu hatayı yapmayalım, Fukuşima ve Çernobil'in aksine en güçlü sistemlerimizi kullanarak daha çok biyoteknoloji gibi olalım.
**3、**Zhang Yaqin: Max, kariyerin matematik, fizik, nörobilim ve tabii ki yapay zeka alanlarında geçti. Açıkçası, gelecekte disiplinler arası yeterliliklere ve bilgiye giderek daha fazla güveneceğiz. Birçok mezun öğrencimiz, birçok geleceği olan genç insanımız var.
Kariyer seçimlerini nasıl yapacakları konusunda gençlere ne gibi tavsiyeleriniz var?
Max Tegmark: Öncelikle, Benim tavsiyem yapay zeka çağındaki temellere odaklanmak. Çünkü ekonomi ve iş piyasası çok daha hızlı değişiyor. Yani, bu 12 veya 20 yıl çalışıp sonra hayatımızın geri kalanında aynı şeyi yapma şeklindeki bu modelden uzaklaşıyoruz. Böyle olmayacak.
Dahası, **Sağlam bir temeliniz var ve yaratıcı, açık fikirli düşünme konusunda çok iyisiniz. Ancak bu şekilde çevik olabilir ve trendi takip edebiliriz. **
Tabii ki, sadece kendi alanınızda değil, bir bütün olarak AI alanında neler olup bittiğine dikkat edin**. Çünkü iş piyasasında gerçekleşen ilk şey insanların yerini makinelerin alması değil. Ancak **yapay zeka ile çalışmayan kişiler, çalışan kişiler tarafından değiştirilecek. **
Biraz daha ekleyebilir miyim? Orada zamanın titreştiğini görüyorum.
Sadece iyimser bir şey söylemek istiyorum. Sanırım Yann LeCun benimle dalga geçiyor. Bana mahkum olan dedi. Ama bana bakarsanız, aslında çok mutlu ve neşeliyim. **Aslında gelecekteki yapay zeka sistemlerini anlama becerimiz konusunda Yann LeCun'dan daha iyimserim. **Bence çok ama çok umut verici.
Bence tam gaz devam edip daha fazla kontrolü insanlardan anlamadığımız makinelere devredersek, sonu çok kötü olacak. Ama bunu yapmak zorunda değiliz. Mekanistik açıklanabilirlik ve bugün burada duyulacak diğer birçok teknik konu üzerinde çok çalışırsak, aslında tüm bu daha büyük zekanın hizmetimizde olduğundan emin olabilir ve onu daha ilham verici bir dünya yaratmak için kullanabiliriz. gelecek.
Midjourney'in kurucusuyla görüşme: Resimler yalnızca ilk adımdır, yapay zeka öğrenme, yaratıcılık ve organizasyonda devrim yaratacak
MidJourney şu anda en popüler görüntü oluşturma motorudur.OpenAI'nin DALL·E 2'si ve açık kaynak modeli Stable Diffusion'ın şiddetli rekabeti altında, çeşitli stil oluşturma efektlerinde hala mutlak liderliğini koruyor.
Midjourney, Pre AGI'nin ilk yıllarının hikayesi olmaya aday, dünyayı değiştiren ve harika bir ürün yaratan 11 kişiden oluşan harika bir şirket.
Not: Midjourney kurucusu ve CEO'su David Holz ile Geek Park Zhang Peng arasında uzun zamandır beklenen diyalog, tamamı İngilizce, altyazısız, tamamen anlamayı beklemiyordum ve çok ilgimi çekti çünkü sorular ve cevaplar o kadar harika ki, özellikle David, cevap verdiğimde gülmekten kendimi alamadım. Masum bir çocuk gibi güldü. Büyük ekipleri yönetme tecrübesiyle, "Hiçbir zaman bir şirketim olsun istemedim, bir evim olsun istedim" dedi. Şu anda sadece 20 kişinin bulunduğu Midjourney, geleceğin startup'larının paradigmasını değiştirebilecek, dünya çapında dikkat çeken bir unicorn haline geldi.
Girişimci Güdü: İnsan Hayal Gücünün Kilidini Açmak
**Zhang Peng:**Son 20 yılda yurtiçi ve yurtdışında birçok girişimciyle tanıştım. Hepsinin "hiç yoktan" keşfetme ve yaratma konusunda güçlü bir dürtüleri var.
MidJourney'e başladığınızda itici gücünüzün ne olduğunu merak ediyordum. O an neyin özlemini çekiyorsun?
**David Holz: Bir şirket kurmayı hiç düşünmedim. Ben sadece bir "ev" istiyorum. **
Umarım önümüzdeki 10 veya 20 yıl içinde burada Midjourney'de gerçekten önemsediğim ve gerçekten bu dünyaya getirmek istediğim şeyler yaratabilirim.
Sık sık çeşitli problemler hakkında düşünürüm. Belki her sorunu çözemem ama** herkesi sorunları çözme konusunda daha yetenekli hale getirmeye çalışabilirim. **
Bu yüzden onu nasıl çözeceğimi, nasıl bir şey yaratacağımı düşünmeye çalışıyorum. Bence bu üç noktaya kadar kaynatılabilir. **Önce kendimiz üzerine düşünmeliyiz: ne istiyoruz? Sorun tam olarak nedir? ****O zaman hayal etmeliyiz: nereye gidiyoruz? Olasılıklar nelerdir? ****Sonuçta, hayal ettiğimiz şeyi başarmak için birbirimizle koordineli çalışmalı ve başkalarıyla işbirliği yapmalıyız. **
Bence AI'da bu üç parçayı bir araya getirmek ve bu sorunu çözmede bizi daha iyi yapan önemli bir altyapı oluşturmak için büyük bir fırsat var. Bir bakıma **yapay zeka, kendimizi yansıtmamıza, gelecekteki yönlerimizi daha iyi hayal etmemize, birbirimizi daha iyi bulmamıza ve işbirliği yapmamıza yardımcı olabilmelidir. Bunları birlikte yapabilir ve bunları bir tür tek çerçeve içinde birleştirebiliriz. Bir şeyler yaratma ve sorunları çözme şeklimizi değiştireceğini düşünüyorum. Yapmak istediğim en büyük şey bu. **
Bence bazen (ilk biz yaptık) görüntü oluşturma kafa karıştırıcı olabilir, ancak birçok yönden görüntü oluşturma köklü bir kavramdır. **Midjourney, bu alanın olanaklarını keşfeden milyonlarca insanın süper hayal gücüne sahip bir koleksiyonu haline geldi. **
**Önümüzdeki yıllarda, önceki tüm tarihi keşiflerin toplamından daha fazla görsel ve sanatsal keşifler için fırsatlar olacak. **
Bu, karşılaştığımız tüm sorunları çözmüyor ama bence bu bir test, bir deney. Bu görsel alan keşfini tamamlayabilirsek, o zaman başka şeylerde de yapabiliriz, Birlikte keşfetmemizi ve düşünmemizi gerektiren diğer tüm şeyler, bence benzer şekilde çözülebilir.
Bu sorunu nasıl çözmeye başlayacağımı düşündüğümde, pek çok fikrimiz vardı, pek çok prototip oluşturduk, ancak birdenbire yapay zeka alanında, özellikle de vizyon alanında bir atılım oldu ve bunun benzersiz bir şey olduğunu fark ettik. daha önce hiç kimsenin denemediği bir şey yaratma fırsatı. Denemek istememizi sağladı.
Hepsinin bir araya gelip çok özel bir şey oluşturmasının çok uzun sürmeyeceğini düşünüyoruz. Bu sadece başlangıç.
Zhang Peng: Yani resim (nesil) yalnızca ilk adım ve nihai hedefiniz insanın hayal gücünü özgürleştirmek. Midjourney'e seni çeken bu muydu?
David Holz: Yaratıcı şeyleri gerçekten seviyorum. Ayrıca dünyanın daha fazla yaratıcılığa sahip olmasını umuyorum. Her gün çılgın fikirler görmek çok eğlenceli.
Bilgiyi Yeniden Anlamak: Tarihsel Bilgi Yaratılışın Gücü Haline Geliyor
Zhang Peng: Bu çok ilginç. Genelde boş sözler söyleriz, bana kodunu göster (Fikir ucuz, bana kodu göster). Ama şu anda, önemli olan tek şey fikirler gibi görünüyor. Fikirlerinizi bir dizi mükemmel kelimeyle ifade edebildiğiniz sürece, AI bunları gerçekleştirmenize yardımcı olabilir. Peki, öğrenme ve yaratıcılığın tanımları değişiyor mu? Ne düşünüyorsun?
**David Holz: **Bence ilginç olan şeylerden biri, insanlara yaratıcı olmaları için daha fazla zaman verdiğinizde, öğrenmenin kendisiyle de daha fazla ilgilenmeleri. **
Örneğin, Amerika Birleşik Devletleri'nde Art Deco adında çok popüler bir sanat tarzı var. Bu tür bir sanatın ne olduğu hiç umurumda değildi, ta ki bir gün talimatlar yoluyla bu tür sanat tarzında eserler yapabildiğimde, birdenbire ona çok ilgi duymaya başladım ve tarihi hakkında daha fazla bilgi edinmek istedim.
Hemen kullanabileceğiniz ve yaratmanızı kolaylaştıran bir şey olduğunda, tarihle daha fazla ilgilenmemiz bence ilginç. **Kullanıcı arayüzü yeterince iyi hale gelirse, kullanıcılar yapay zekanın düşüncemizin bir uzantısı haline geldiğini hisseder. Yapay Zeka vücudumuzun ve zihnimizin bir parçası gibidir ve Yapay Zeka bir dereceye kadar tarihle yakından bağlantılıdır ve biz de tarihle yakından bağlantılı olacağız. Bu çok ilginç.
Kullanıcılarımıza en çok ne istediklerini sorduğumuzda, bir numaralı ve ikinci cevap, sadece araçların nasıl kullanılacağını değil, aynı zamanda sanat, tarih, kamera lensleri, parlaklık, tüm bilgi ve kavramları anlamak ve bunlara hakim olmak istedikleridir. oluşturmak için kullanılabilir.
**Önceden bilgi geçmişte kaldı, ama şimdi bilgi yaratma gücüdür. **
**Bilgi anında daha büyük bir rol oynayabilir ve insanlar daha fazla bilgi edinmeye heveslidir. **Bu çok havalı.
Brian Christian: "Human-Machine Alignment" adlı yeni kitabın Çince versiyonu yayınlandı
"İnsan-Makine Hizalaması"nın Çince versiyonu yayınlandı. Yazar Brian Christian 10 dakikada tüm kitabın ana içeriğini kısaca tanıttı. Kulağa çok zengin ve heyecan verici geliyor ve aynı zamanda AI'nın mevcut hızlı gelişimini de yansıtıyor.
Brian Christian, ödüllü bir bilim yazarıdır. "Algoritmaların Güzelliği" adlı kitabı, Amazon'da Yılın En İyi Bilim Kitabı ve MIT Technology Review'de Yılın En İyi Kitabı seçildi. Şu anda Çince'ye çevrilmekte olan yeni kitabı The Alignment Problem: Machine Learning and Human Values, Microsoft CEO'su Satya Nadella tarafından 2021'de ona ilham verecek ilk beş kitap olarak seçildi**.
"İnsan-Makine Hizalaması" kitabı 3 bölüme ayrılmıştır.
İlk bölüm, günümüzde makine öğrenimi sistemlerini etkileyen etik ve güvenlik sorunlarını araştırıyor.
İkinci kısım, odağı denetimli ve kendi kendini denetleyen öğrenmeden pekiştirmeli öğrenmeye kaydıran etmenler olarak adlandırılır.
Bölüm III, karmaşık yapay zeka sistemlerini gerçek dünyada nasıl uyumlu hale getirebileceğimizi tartışmak için denetim, kendi kendini denetleme ve pekiştirmeli öğrenme üzerine kuruludur.
Yang Yaodong, Yardımcı Doçent, Yapay Zeka Enstitüsü, Pekin Üniversitesi: Büyük Dil Modellerinin Güvenli Hizalanmasının İlerlemesine İlişkin Bir İnceleme
Not: Pekin Üniversitesi Yapay Zeka Enstitüsü'nde yardımcı doçent olan Yang Yaodong'un yaptığı "Geniş Dil Modellerinin Güvenliği Hizalaması" konuşması çok heyecan vericiydi.Önce Çince konuşmayı anlayabildi.İkinci olarak şu anki durumu anlattı. büyük dil modellerinin güvenliği çok kolay anlaşılır bir dilde Hizalamanın ana araştırma ilerlemesi, kilit noktaları ana hatlarıyla belirtir ve RLHF'nin ilerlemesi hakkında birçok içeriği derinlemesine aşar.
Ayrıntılı teknolojiyi bilmediğim için, prensibi ancak kabaca anlayabilir ve bazı ilginç noktaları kaydedebilirim:
OpenAI tarafından önerilen üç Hizalama yöntemi:
İnsan geri bildirimlerini kullanarak yapay zekayı eğitin
İnsan değerlendirmesine yardımcı olması için yapay zekayı eğitin
Hizalama araştırması yapmak için yapay zekayı eğitin
AI büyük model uyumlulaştırma pazarı hâlâ mavi bir okyanus:
** GPT dışındaki mevcut büyük modeller, herhangi bir anlamda uyum sağlamayı neredeyse başaramadı**
Büyük ölçekli modeller için genel amaçlıdan özel amaca dönüşüm teknolojisi, büyük ölçekli modellerin geliştirilmesinde bir sonraki komuta yüksekliği olacaktır.
3 Hizalama Güvenli Yolu:
Eğitim öncesi aşamada, daha kaliteli veriler elde etmek için manuel tarama ve veri temizleme yoluyla
Çıktı kalitesini ve güvenliğini artırmak için çıktı aşamasında reddetme örneklemesi için ödül modelini kullanın. Veya canlı bir üründe, ** kullanıcı girişine yanıt vermeyi reddeder. **
İnce ayar (SFT ve BLHF) aşamasında, RBRM, Anayasa Al.
RLHF'den RLAIF'e: Anayasal AI
Turing Ödüllü Geoffrey Hinton: Süper zeka beklenenden çok daha hızlı olacak ve insanların onlar tarafından kontrol edilmesinden çok endişeliyim
Turing Ödüllü, "Derin Öğrenmenin Babası" Geoffrey Hinton'un kapanış konuşmasının konusu Zekaya Giden İki Yol.
Yapay zekanın vaftiz babası bize onu süper zekanın beklenenden çok daha hızlı olacağına ikna eden araştırmayı getiriyor: Ölümlü Hesaplama. Konuşma, yazılım ve donanımın ayrılması ilkesini terk ettikten sonra yeni bir bilgi işlem yapısını, yani sinir ağının iç yolunu açıklamak için geri yayılımı kullanmadan akıllı bilgi işlemin nasıl gerçekleştirileceğini anlattı.
Konuşmanın önemli noktaları:
Hinton, yapay zeka için yeni bir olasılık öneriyor: ölümlü bilgi işlem. Ölümlü bilgi işlem, yazılım ve donanımı artık birbirinden ayırmaz ve paralel bilgi işlemi daha doğru bir şekilde gerçekleştirmek için fiziksel donanımı kullanır. Daha düşük enerji tüketimine ve daha basit donanım yapılmasına yol açabilir, ancak eğitilmesi ve büyük ölçekli modellere göre ölçeklendirilmesi daha zordur.
Akıllı grupların bilgiyi paylaşmasının iki yolu vardır, biyolojik ve dijital bilgi işlem. Biyolojik paylaşım düşük bant genişliğine sahiptir ve çok yavaştır, dijital kopyalama ise yüksek bant genişliğine sahiptir ve çok hızlıdır. İnsanlar biyolojikken, yapay zeka dijitaldir, bu nedenle yapay zeka multimodalite yoluyla daha fazla bilgide ustalaştığında, paylaşım hızları çok hızlı olacak ve yakında insanları geçecek.
Yapay Zeka insanlardan daha zeki olacak şekilde evrimleştiğinde, büyük riskler oluşturmaları muhtemeldir. Güç elde etme çabasıyla insanların sömürülmesi ve aldatılması dahil. Ve insanlara karşı düşmanca olması muhtemeldir.
Yepyeni bilgi işlem modelinin Hinton tarafından Ölümlü bilgi işlem olarak adlandırılmasının derin bir anlamı var:
Hinton daha önce ölümsüzlüğe gerçekten ulaşıldığını söylemişti. Mevcut yapay zeka büyük dil modeli, insan bilgisini trilyonlarca parametreye kadar öğrendiğinden ve donanımdan bağımsız olduğundan: talimatla uyumlu donanım yeniden üretildiği sürece, aynı kod ve model ağırlığı gelecekte doğrudan çalıştırılabilir. Bu anlamda insan zekası (insan değil) ölümsüzleştirilir.
Ancak, donanım ve yazılımın bu ayrı hesaplaması, enerji verimliliği ve uygulama ölçeği açısından son derece verimsizdir. Donanım ve yazılımı ayıran bilgisayar tasarımı ilkesini terk edip, zekayı birleşik bir kara kutuda gerçekleştirirsek, bu, zekayı gerçekleştirmenin yeni bir yolu olacaktır.
Artık yazılım ve donanımı birbirinden ayırmayan bu tür bir bilgi işlem tasarımı, enerji tüketimini ve hesaplama ölçeğini büyük ölçüde azaltacaktır (insan beyninin enerji tüketiminin sadece 20 watt olduğunu düşünün)
Ama aynı zamanda hikmeti kopyalamak için ağırlığının verimli bir şekilde kopyalanamayacağı, yani ebedî hayattan vazgeçildiği anlamına gelir.
Yapay Sinir Ağları Gerçek Sinir Ağlarından Daha mı Akıllı?
Birden çok dijital bilgisayarda çalışan büyük bir sinir ağı, insan bilgisi için insan dilini taklit etmenin yanı sıra doğrudan dünyadan bilgi edinebilirse ne olur?
Açıkçası, daha fazla veri gözlemlediği için insanlardan çok daha iyi hale gelecek.
Bu nöral ağ, görüntülerin veya videoların denetimsiz modellemesini yapabiliyorsa ve kopyaları da fiziksel dünyayı manipüle edebiliyorsa, bu bir fantezi değildir.
Not: Herkes Xingjiang konuşmasının bittiğini düşünürken, sondan bir önceki sayfada, Hinton - önceki tüm bilim adamlarından farklı bir tonda, biraz duygusal ve karışık duygularla - mevcut hızlı gelişen yapay zeka endişeleri hakkındaki düşüncelerini söyledi. ayrıca kısa bir süre önce Google'dan kararlı bir şekilde ayrıldıktan ve "hayatının işinden pişmanlık duyan ve yapay zekanın tehlikeleri konusunda endişelenen" dünyanın meraklı sesi:
Bence bu süper zekanın gerçekleştirilmesi eskiden düşündüğümden çok daha hızlı olabilir.
Kötü adamlar, seçmenleri manipüle etmek gibi şeyler yapmak için onları kullanmak isteyeceklerdir. Zaten bunun için ABD'de ve daha birçok yerde kullanıyorlar. Ve savaşları kazanmak için kullanılacak.
Dijital zekayı daha etkili hale getirmek için bazı hedefler belirlemesine izin vermeliyiz. Ancak burada bariz bir sorun var. Ulaşmak istediğiniz hemen hemen her şey için çok yardımcı olan çok bariz bir alt hedef vardır ve bu daha fazla güç, daha fazla kontrol elde etmektir**. Daha fazla kontrole sahip olmak, hedeflerinize ulaşmanızı kolaylaştırır. Ve dijital zekanın diğer hedeflere ulaşmak için daha fazla kontrol elde etme çabasını nasıl engelleyebileceğimizi hayal etmekte zorlanıyorum.
**Dijital zeka daha fazla kontrol için çabalamaya başladığında, daha fazla sorunla karşılaşabiliriz. **
**Buna karşılık, insanlar kendilerinden daha zeki türleri ve bu türlerle nasıl etkileşim kuracaklarını nadiren düşünürler. Benim gözlemime göre, bu tür yapay zeka insanları aldatma eylemlerinde ustaca ustalaştı, çünkü Roman oku'yu kullanabiliyor. başkalarını nasıl kandıracağını öğrenir ve yapay zeka "aldatma" yeteneğine sahip olduğunda, daha önce bahsedilen insanları kolayca kontrol etme yeteneğine de sahip olacaktır. **Sözde kontrol, örneğin, Washington'da bir binayı hacklemek istiyorsanız oraya bizzat gitmenize gerek yok, sadece binayı hackleyerek demokrasiyi kurtarabileceklerini düşünmeleri için insanları kandırmanız yeterli ve nihayetinde Amacınıza ulaşın (alay Trump).
Bu sırada altmış yaşın üzerinde olan ve hayatını yapay zekaya adamış Gerffery Hinton şunları söyledi:
"Korkunç hissediyorum, bunun olmasını nasıl önleyeceğimi bilmiyorum, ama ben yaşlıyım ve umarım sizin gibi birçok genç ve yetenekli araştırmacı, hayatımızı iyileştirecek bu süper zekalara nasıl sahip olduğumuzu anlayacaktır. aldatma yoluyla bu tür bir kontrolü durdurun...belki onlara ahlaki ilkeler verebiliriz, ancak şu anda hala gerginim, **çünkü şimdiye kadar, bunu düşünemiyorum-zeka boşluğunda yeterince Büyük zaman - daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edilmesine bir örnek.****Eğer insanları kurbağalar icat ettiyse, sizce kontrolü kim ele alır? Kurbağalar mı yoksa insanlar mı?**Bu aynı zamanda Bring up up my last PPT, yani son."
Dinlediğim zaman "ejderhayı bir kez katleden çocuk, alacakaranlık yıllarına gelip hayatına dönüp baktığında bir kıyamet kehaneti yaptı" sözünü dinler gibi oldum. AI'nın insanlar için büyük riski ve ben sonsuz derecede utanıyorum.
Hinton ile karşılaştırıldığında, genç derin öğrenme devlerinden biri olan Lecun açıkça daha iyimser:
AI sisteminin insanlar için varoluşsal bir risk oluşturup oluşturmayacağı sorulduğunda LeCun, **Henüz bir süper AI'mız yok, peki süper AI sistemini nasıl güvenli hale getirebiliriz? **
"Üç Cisim Problemi"nde dünya insanlarının üç cisim medeniyetine karşı farklı tavırlarını düşündürür...
O gün, hala sonsuz pişmanlık havasında bilgisayarı kapatmayı planlıyordum.Beklenmedik bir şekilde, Zhiyuan Araştırma Enstitüsü müdürü Huang Tiejun mükemmel bir kapanış konuşması yaptı: "Kapanamaz".
Huang Tiejun önceki konuşmaların görüşlerini şöyle özetledi:
Yapay zeka giderek güçleniyor ve riskler bariz ve gün geçtikçe artıyor;
Güvenli yapay zeka nasıl oluşturulur, çok az şey biliyoruz;
Tarihsel deneyimlerden öğrenebilir: uyuşturucu yönetimi, nükleer silah kontrolü, kuantum hesaplama...
Ancak yüksek karmaşıklığa sahip AI sistemlerini tahmin etmek zordur: risk testi, mekanizma açıklaması, anlayışın genelleştirilmesi... sadece başlangıç
Yeni meydan okuma hedefi: AI kendi hedeflerine mi yoksa insan hedeflerine mi hizmet ediyor?
Esasen, insanlar GAI genel yapay zekası mı yoksa AGI yapay genel zekası mı oluşturmak istiyor?
Akademik fikir birliği AGI yapay genel zekasıdır: insan zekasının tüm yönlerinde insan seviyelerine ulaşmış ve dış çevresel zorluklara uyarlanabilir bir şekilde yanıt verebilen ve insanların tamamlayabileceği tüm görevleri tamamlayabilen yapay zeka; otonom yapay zeka, insanüstü olarak da adlandırılabilir. zeka ve güçlü zeka.yapay zeka.
Bir yandan, herkes genel yapay zeka oluşturma konusunda hevesli ve yatırım yapmak için acele ediyor.
Öte yandan yapay zekanın insanları ikinci sınıf vatandaş yapmasına da burun kıvırıyorum ama bu ikili karşıtlık en zoru değil. Asıl mesele oy kullanmak. Near AGI gibi ChatGPT gibi yapay zeka? **
İnsanlar risklere, yapay zeka oluşturmaya yatırım yapmakla aynı şevkle yanıt verirlerse, güvenli yapay zeka elde etmek hâlâ mümkün olabilir**, ancak insanların bunu yapabileceğine inanıyor musunuz? Bilmiyorum, teşekkürler! **
View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Zhiyuan Konferansı 2023'ten Sonra: Yapay zekaya daha çok güveniyorum ve insanlar için daha çok endişeleniyorum
9 Haziran'da iki günlük "Pekin Zhiyuan Konferansı", Zhongguancun Ulusal Bağımsız İnovasyon Gösteri Bölgesi Konferans Merkezi'nde başarıyla açıldı.
Zhiyuan Konferansı, Zhiyuan Araştırma Enstitüsü'nün (Çin'deki OpenAI'nin Çin'deki en güçlü Yapay Zeka Araştırma Enstitüsü olarak da bilinir) ev sahipliği yaptığı, yapay zeka konusunda yıllık uluslararası bir üst düzey profesyonel değişim etkinliğidir. Bahar Şenliği Galası" - katılım programından da görülebileceği gibi Misafirler:
Turing Ödülü sahibi Geoffrey Hinton, Yann LeCun (bu aynı zamanda derin öğrenmede Büyük Üç'ün ikincisidir, önceki konferansa başka bir Bengio katıldı), Joseph Sifakis ve Yao Qizhi, Zhang Bo, Zheng Nanning, Xie Xiaoliang, Zhang Hongjiang, Zhang Yaqin ve diğer akademisyenler, California Üniversitesi, Berkeley'de Yapay Zeka Sistemleri Merkezi'nin kurucusu Stuart Russell, Massachusetts Institute of Technology'de Future of Life Enstitüsü'nün kurucusu Max Tegmark, **OpenAI CEO'su Sam Altman ** (çevrimiçi olmasına rağmen bu aynı zamanda Çin'deki ilk konuşmasıdır), Meta, Microsoft, Google ve diğer büyük şirketler ve DeepMind, Anthropic, HuggingFace, Midjourney, Stability AI ve diğer yıldız ekip üyeleri, toplamda 200'den fazla en iyi yapay zeka uzmanları...
Geçtiğimiz iki gün içinde konferansın canlı yayınını takip ettim Teknolojiden anlamayan bir sosyal bilimler öğrencisi olarak aslında büyük bir ilgiyle dinledim ve çok şey kazandım.
Ancak, son Turing Ödülü sahibi ve "derin öğrenmenin babası" Geoffrey Hinton'un konuşmasını okuduktan sonra, içimi güçlü ve karmaşık bir duygu sardı:
Bir yandan, yapay zeka araştırmacılarının çeşitli ileri teknolojileri keşfedip hayal ettiklerini görünce, doğal olarak yapay zekanın ve hatta gelecekteki genel yapay zeka AGI**'nın gerçekleştirilmesine daha fazla güven duyacaklar;
Öte yandan, son teknoloji uzmanların ve akademisyenlerin AI'nın risklerini tartıştığını duymak, ayrıca risklerle nasıl başa çıkılacağına dair insan cehaleti ve hor görmesi ve insanoğlunun geleceği hakkında endişelerle dolu - en temel sorun, Hinton'un sözleri: tarih Dünyada daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiği bir emsal görülmemiştir.**Eğer kurbağalar insanları icat ettiyse, sizce kontrolü kim ele alacak? Kurbağa mı yoksa insan mı? **
İki günlük konferanstaki bilgi patlaması nedeniyle, bazı önemli konuşmaların materyallerini düzenlemek için biraz zaman ayırdım ve bu arada bazı düşüncelerimi daha sonra gözden geçirebilmek ve ilgilenen herkesle paylaşabilmek için kaydettim. yapay zekanın ilerlemesini önemser.
Açıklama : Aşağıda [not] ile işaretlenen kısım şahsi görüşüm olup, içerik alıntı olarak özetlenmiştir (beceremem kısıtlı olduğundan -_-|| yazamıyorum), kaynak link adresindedir. her bölümün sonu ve bazıları değiştirildi.
OpenAI CEO'su Sam Altman: AGI on yıl içinde ortaya çıkabilir
10 Haziran'da tüm gün düzenlenen "AI Safety and Alignment" forumunda, OpenAI kurucu ortağı Sam Altman bir açılış konuşması yaptı - çevrimiçi olmasına rağmen Çin'deki ilk konuşmasıydı.
Konuşma, modelin yorumlanabilirliği, ölçeklenebilirliği ve genelleştirilebilirliği hakkında fikir verdi. Ardından, Zhiyuan Araştırma Enstitüsü başkanı Sam Altman ve Zhang Hongjiang, uluslararası işbirliğinin nasıl derinleştirileceğini, daha güvenli yapay zeka araştırmalarının nasıl yürütüleceğini ve içinde bulunduğumuz çağda yapay zekanın gelecekteki riskleriyle nasıl başa çıkılacağını tartışan bir soru-cevap zirvesi gerçekleştirdi. büyük ölçekli AI modelleri.
Mükemmel özet:
Zhang Hongjiang tarafından genel yapay zeka (AGI) çağından ne kadar uzakta olduğu sorulduğunda Sam Altman, "Önümüzdeki 10 yıl içinde süper yapay zeka sistemleri doğacak, ancak belirli bir zaman noktasını tahmin etmek zor" dedi. ayrıca, "Yeni teknolojilerin dünyayı tamamen değiştirme hızı, hayal gücünün çok ötesinde."
OpenAI'nin büyük modelleri açıp açmayacağı sorulduğunda **Altman, gelecekte daha fazla açık kaynak olacağını ancak belirli bir model ve zaman çizelgesi olmadığını söyledi. Ayrıca, yakın zamanda GPT-5'in olmayacağını da söyledi. ** Toplantıdan sonra Altman, Zhiyuan Konferansında konuşma yapmaya davet edildiği için minnettarlığını ifade eden bir mesaj yayınladı.
Turing Ödülü sahibi Yang Likun: Beş yıl sonra kimse GPT modelini kullanmayacak ve dünya modeli AGI'nin geleceği
Derin öğrenmenin üç devinden biri olan ve Turing Ödülü sahibi Yang Likun, "Öğrenebilen, Akıl Yürüten ve Planlayan Makinelere Doğru" başlıklı bir açılış konuşması yaptı. öğrenebilen, akıl yürütebilen ve planlayabilen bir makine: dünya modeli.
Konuşmanın önemli noktaları:
**İkinci olarak, akıl yürütmeyi öğrenin. **Bu, psikolog Daniel Kahneman'ın Sistem 1 ve Sistem 2 kavramına karşılık gelir. Sistem 1, bilinçaltı hesaplamalara karşılık gelen insan davranışı veya eylemleri, düşünmeden yapılabilecek şeyler iken, Sistem 2, tüm düşünme gücünüzü bilinçli ve amaçlı olarak tamamlamak için kullandığınız görevlerdir. Şu anda, yapay zeka temelde yalnızca Sistem 1'deki işlevleri gerçekleştirebilir ve tamamlanmamıştır;
Son zorluk, karmaşık görevleri daha basit görevlere ayırarak karmaşık eylem dizilerinin nasıl planlanacağıdır ve hiyerarşik bir şekilde çalışır.
LeCun, yapay zekanın insanları yok edeceği fikrini her zaman küçümsediğini ifade etti ve bugünün yapay zekasının bir köpek kadar zeki olmadığına ve bu endişenin gereksiz olduğuna inanıyor. **Yapay zeka sisteminin insanlar için varoluşsal bir risk oluşturup oluşturmayacağı sorulduğunda LeCun, **Henüz bir süper yapay zekamız yok, peki süper yapay zeka sistemini nasıl güvenli hale getirebiliriz? **
** "Bugün insanlara süper zeki bir sistemin insanlar için güvenli olduğunu garanti edebilir miyiz diye sorun, bu cevaplanamaz bir sorudur. Bir şeyi güvenli hale getirin.**Bu, 1930'da bir havacılık mühendisine bir turbojeti güvenli ve güvenilir hale getirebilir misiniz diye sorsanız, mühendis "Turbojet nedir?" "Çünkü turbojet 1930'da icat edilmemişti. Yani biz de aynı durumdayız. Bu sistemleri güvenli hale getiremeyeceğimizi çünkü onları icat etmediğimizi iddia etmek için biraz erken. onları icat etti— —belki benim bulduğum plana benzerler, o zaman tartışmaya değer.”
Profesör Max Tegmark, MIT Yapay Zeka ve Temel Etkileşim Araştırması Merkezi: Mekanik Açıklanabilirlik ile Yapay Zekayı Kontrol Etmek
Max Tegmark, şu anda Massachusetts Teknoloji Enstitüsü'nde kadrolu fizik profesörü, Temel Sorunlar Enstitüsü'nün bilimsel direktörü, Yaşamın Geleceği Enstitüsü'nün kurucusu ve iyi bilinen "Yapay Zeka araştırma girişimini başlatan kişi" (the Mart ayının sonunda Elon Musk, Turing Ödülü sahibi Yoshua Bengio, Apple kurucu ortağı Steve Wozniak ve diğer 1000'den fazla ünlünün katıldığı girişim, Zhiyuan Konferansı'nda "Yapay Zekayı Kontrol Etme" (Keeping AI kontrol altında) konulu harika bir konuşma yaptı. ve Tsinghua Üniversitesi akademisyeni Zhang Yaqin ile yapay zeka etik güvenliği ve risk önleme konularını tartışmak için bir diyalog kurduk.
Konuşmada, aslında insan bilgisinin sinir ağlarındaki bu karmaşık bağlantılarda nasıl depolandığına dair bir çalışma olan AI'nın mekanik açıklanabilirliği ayrıntılı olarak ele alındı. Bu yöndeki araştırmalar devam ederse, sonunda LLM geniş dil modelinin neden zeka ürettiği şeklindeki nihai soruyu gerçekten açıklayabilir.
Konuşmaya ek olarak, ilginç olan şu ki, "Pause AI Research Initiative" in başlatıcısı olarak açılış konuşması, daha derinlemesine bir AI büyük ölçekli model araştırmasının nasıl yürütüleceğine odaklanıyor. Belki de sonunda Max'in kendisinin de söylediği gibi, AI devlerinden Profesör Yang Likun'un söylediği mahkum kişi değil, aslında AI için umut ve özlem dolu, ancak tüm bunların daha güçlü olmasını sağlayabiliriz. zekalar bize hizmet eder ve onları kullanır Bilim kurgu yazarlarının geçmişte hayal ettiklerinden daha ilham verici bir gelecek yaratmaya gelir. **
Not: Çok sıkıcı olacağını düşünmüştüm ama beklenmedik bir şekilde çok heyecanlıydı ve bir saat boyunca en uzun konuşmayı zevkle izledim! **Sık sık ders veren bir profesörden beklendiği gibi, çok büyüleyici, teorik olarak çok derin ve anlaşılması kolay. Daha da şaşırtıcı olan şey, onun yalnızca ağırbaşlı bir AI rakibi olmaması değil, aynı zamanda daha iyi bir AI'nın savunucusu olmasıdır! **Çince de biliyorum ve konuşma yaparken kendimi işe almayı unutmuyorum...
Harika fikirlerden alıntılar:
Bunu nasıl yapabiliriz? Üç farklı hırs düzeyine sahip olabilirsiniz. **En düşük hırs seviyesi, sadece güvenilirliğini, ona ne kadar güvenmeniz gerektiğini teşhis etmektir. **Örneğin, araba kullanırken frenlerinizin nasıl çalıştığını anlamasanız bile en azından frenlerin sizi yavaşlatacağına güvenip güvenemeyeceğinizi bilmek istersiniz.
**Bir sonraki hırs seviyesi, daha güvenilir olabilmesi için onu daha iyi anlamaktır. **Nihai hedef çok iddialı ve beklediğim de bu, onların makine öğrenimi sistemlerinden öğrendikleri tüm bilgileri çıkarabilmemiz ve istediğimizi yapacaklarını göstermek için bunları diğer sistemlerde yeniden uygulayabilmemiz. **
Şimdi, bunun nedeni, tam olarak bizi kontrolden çıkarabilecek sistemler, yeterince anlamadığımız en hızlı, süper güçlü sistemler. Ara vermenin amacı, yapay zekayı daha çok biyoteknolojiye benzetmektir, biyoteknoloji alanında, sadece bir şirket olduğunuzu söyleyemezsiniz, hey, yeni bir ilacım var, keşfettim ve yarın Pekin'deki büyük süpermarketlerde satılmaya başlayacak. Önce Çin hükümetindeki veya ABD hükümetindeki uzmanları bunun güvenli bir ilaç olduğuna, yararlarının zararlarından daha fazla olduğuna, bir inceleme süreci olduğuna ikna etmelisin ve sonra bunu yapabilirsin.
Bu hatayı yapmayalım, Fukuşima ve Çernobil'in aksine en güçlü sistemlerimizi kullanarak daha çok biyoteknoloji gibi olalım.
**3、**Zhang Yaqin: Max, kariyerin matematik, fizik, nörobilim ve tabii ki yapay zeka alanlarında geçti. Açıkçası, gelecekte disiplinler arası yeterliliklere ve bilgiye giderek daha fazla güveneceğiz. Birçok mezun öğrencimiz, birçok geleceği olan genç insanımız var.
Kariyer seçimlerini nasıl yapacakları konusunda gençlere ne gibi tavsiyeleriniz var?
Max Tegmark: Öncelikle, Benim tavsiyem yapay zeka çağındaki temellere odaklanmak. Çünkü ekonomi ve iş piyasası çok daha hızlı değişiyor. Yani, bu 12 veya 20 yıl çalışıp sonra hayatımızın geri kalanında aynı şeyi yapma şeklindeki bu modelden uzaklaşıyoruz. Böyle olmayacak.
Dahası, **Sağlam bir temeliniz var ve yaratıcı, açık fikirli düşünme konusunda çok iyisiniz. Ancak bu şekilde çevik olabilir ve trendi takip edebiliriz. **
Tabii ki, sadece kendi alanınızda değil, bir bütün olarak AI alanında neler olup bittiğine dikkat edin**. Çünkü iş piyasasında gerçekleşen ilk şey insanların yerini makinelerin alması değil. Ancak **yapay zeka ile çalışmayan kişiler, çalışan kişiler tarafından değiştirilecek. **
Biraz daha ekleyebilir miyim? Orada zamanın titreştiğini görüyorum.
Sadece iyimser bir şey söylemek istiyorum. Sanırım Yann LeCun benimle dalga geçiyor. Bana mahkum olan dedi. Ama bana bakarsanız, aslında çok mutlu ve neşeliyim. **Aslında gelecekteki yapay zeka sistemlerini anlama becerimiz konusunda Yann LeCun'dan daha iyimserim. **Bence çok ama çok umut verici.
Bence tam gaz devam edip daha fazla kontrolü insanlardan anlamadığımız makinelere devredersek, sonu çok kötü olacak. Ama bunu yapmak zorunda değiliz. Mekanistik açıklanabilirlik ve bugün burada duyulacak diğer birçok teknik konu üzerinde çok çalışırsak, aslında tüm bu daha büyük zekanın hizmetimizde olduğundan emin olabilir ve onu daha ilham verici bir dünya yaratmak için kullanabiliriz. gelecek.
Midjourney'in kurucusuyla görüşme: Resimler yalnızca ilk adımdır, yapay zeka öğrenme, yaratıcılık ve organizasyonda devrim yaratacak
MidJourney şu anda en popüler görüntü oluşturma motorudur.OpenAI'nin DALL·E 2'si ve açık kaynak modeli Stable Diffusion'ın şiddetli rekabeti altında, çeşitli stil oluşturma efektlerinde hala mutlak liderliğini koruyor.
Midjourney, Pre AGI'nin ilk yıllarının hikayesi olmaya aday, dünyayı değiştiren ve harika bir ürün yaratan 11 kişiden oluşan harika bir şirket.
Not: Midjourney kurucusu ve CEO'su David Holz ile Geek Park Zhang Peng arasında uzun zamandır beklenen diyalog, tamamı İngilizce, altyazısız, tamamen anlamayı beklemiyordum ve çok ilgimi çekti çünkü sorular ve cevaplar o kadar harika ki, özellikle David, cevap verdiğimde gülmekten kendimi alamadım. Masum bir çocuk gibi güldü. Büyük ekipleri yönetme tecrübesiyle, "Hiçbir zaman bir şirketim olsun istemedim, bir evim olsun istedim" dedi. Şu anda sadece 20 kişinin bulunduğu Midjourney, geleceğin startup'larının paradigmasını değiştirebilecek, dünya çapında dikkat çeken bir unicorn haline geldi.
Girişimci Güdü: İnsan Hayal Gücünün Kilidini Açmak
**Zhang Peng:**Son 20 yılda yurtiçi ve yurtdışında birçok girişimciyle tanıştım. Hepsinin "hiç yoktan" keşfetme ve yaratma konusunda güçlü bir dürtüleri var.
MidJourney'e başladığınızda itici gücünüzün ne olduğunu merak ediyordum. O an neyin özlemini çekiyorsun?
**David Holz: Bir şirket kurmayı hiç düşünmedim. Ben sadece bir "ev" istiyorum. **
Umarım önümüzdeki 10 veya 20 yıl içinde burada Midjourney'de gerçekten önemsediğim ve gerçekten bu dünyaya getirmek istediğim şeyler yaratabilirim.
Sık sık çeşitli problemler hakkında düşünürüm. Belki her sorunu çözemem ama** herkesi sorunları çözme konusunda daha yetenekli hale getirmeye çalışabilirim. **
Bu yüzden onu nasıl çözeceğimi, nasıl bir şey yaratacağımı düşünmeye çalışıyorum. Bence bu üç noktaya kadar kaynatılabilir. **Önce kendimiz üzerine düşünmeliyiz: ne istiyoruz? Sorun tam olarak nedir? ****O zaman hayal etmeliyiz: nereye gidiyoruz? Olasılıklar nelerdir? ****Sonuçta, hayal ettiğimiz şeyi başarmak için birbirimizle koordineli çalışmalı ve başkalarıyla işbirliği yapmalıyız. **
Bence AI'da bu üç parçayı bir araya getirmek ve bu sorunu çözmede bizi daha iyi yapan önemli bir altyapı oluşturmak için büyük bir fırsat var. Bir bakıma **yapay zeka, kendimizi yansıtmamıza, gelecekteki yönlerimizi daha iyi hayal etmemize, birbirimizi daha iyi bulmamıza ve işbirliği yapmamıza yardımcı olabilmelidir. Bunları birlikte yapabilir ve bunları bir tür tek çerçeve içinde birleştirebiliriz. Bir şeyler yaratma ve sorunları çözme şeklimizi değiştireceğini düşünüyorum. Yapmak istediğim en büyük şey bu. **
Bence bazen (ilk biz yaptık) görüntü oluşturma kafa karıştırıcı olabilir, ancak birçok yönden görüntü oluşturma köklü bir kavramdır. **Midjourney, bu alanın olanaklarını keşfeden milyonlarca insanın süper hayal gücüne sahip bir koleksiyonu haline geldi. **
**Önümüzdeki yıllarda, önceki tüm tarihi keşiflerin toplamından daha fazla görsel ve sanatsal keşifler için fırsatlar olacak. **
Bu, karşılaştığımız tüm sorunları çözmüyor ama bence bu bir test, bir deney. Bu görsel alan keşfini tamamlayabilirsek, o zaman başka şeylerde de yapabiliriz, Birlikte keşfetmemizi ve düşünmemizi gerektiren diğer tüm şeyler, bence benzer şekilde çözülebilir.
Bu sorunu nasıl çözmeye başlayacağımı düşündüğümde, pek çok fikrimiz vardı, pek çok prototip oluşturduk, ancak birdenbire yapay zeka alanında, özellikle de vizyon alanında bir atılım oldu ve bunun benzersiz bir şey olduğunu fark ettik. daha önce hiç kimsenin denemediği bir şey yaratma fırsatı. Denemek istememizi sağladı.
Hepsinin bir araya gelip çok özel bir şey oluşturmasının çok uzun sürmeyeceğini düşünüyoruz. Bu sadece başlangıç.
Zhang Peng: Yani resim (nesil) yalnızca ilk adım ve nihai hedefiniz insanın hayal gücünü özgürleştirmek. Midjourney'e seni çeken bu muydu?
David Holz: Yaratıcı şeyleri gerçekten seviyorum. Ayrıca dünyanın daha fazla yaratıcılığa sahip olmasını umuyorum. Her gün çılgın fikirler görmek çok eğlenceli.
Bilgiyi Yeniden Anlamak: Tarihsel Bilgi Yaratılışın Gücü Haline Geliyor
Zhang Peng: Bu çok ilginç. Genelde boş sözler söyleriz, bana kodunu göster (Fikir ucuz, bana kodu göster). Ama şu anda, önemli olan tek şey fikirler gibi görünüyor. Fikirlerinizi bir dizi mükemmel kelimeyle ifade edebildiğiniz sürece, AI bunları gerçekleştirmenize yardımcı olabilir. Peki, öğrenme ve yaratıcılığın tanımları değişiyor mu? Ne düşünüyorsun?
**David Holz: **Bence ilginç olan şeylerden biri, insanlara yaratıcı olmaları için daha fazla zaman verdiğinizde, öğrenmenin kendisiyle de daha fazla ilgilenmeleri. **
Örneğin, Amerika Birleşik Devletleri'nde Art Deco adında çok popüler bir sanat tarzı var. Bu tür bir sanatın ne olduğu hiç umurumda değildi, ta ki bir gün talimatlar yoluyla bu tür sanat tarzında eserler yapabildiğimde, birdenbire ona çok ilgi duymaya başladım ve tarihi hakkında daha fazla bilgi edinmek istedim.
Hemen kullanabileceğiniz ve yaratmanızı kolaylaştıran bir şey olduğunda, tarihle daha fazla ilgilenmemiz bence ilginç. **Kullanıcı arayüzü yeterince iyi hale gelirse, kullanıcılar yapay zekanın düşüncemizin bir uzantısı haline geldiğini hisseder. Yapay Zeka vücudumuzun ve zihnimizin bir parçası gibidir ve Yapay Zeka bir dereceye kadar tarihle yakından bağlantılıdır ve biz de tarihle yakından bağlantılı olacağız. Bu çok ilginç.
Kullanıcılarımıza en çok ne istediklerini sorduğumuzda, bir numaralı ve ikinci cevap, sadece araçların nasıl kullanılacağını değil, aynı zamanda sanat, tarih, kamera lensleri, parlaklık, tüm bilgi ve kavramları anlamak ve bunlara hakim olmak istedikleridir. oluşturmak için kullanılabilir.
**Önceden bilgi geçmişte kaldı, ama şimdi bilgi yaratma gücüdür. **
**Bilgi anında daha büyük bir rol oynayabilir ve insanlar daha fazla bilgi edinmeye heveslidir. **Bu çok havalı.
Brian Christian: "Human-Machine Alignment" adlı yeni kitabın Çince versiyonu yayınlandı
"İnsan-Makine Hizalaması"nın Çince versiyonu yayınlandı. Yazar Brian Christian 10 dakikada tüm kitabın ana içeriğini kısaca tanıttı. Kulağa çok zengin ve heyecan verici geliyor ve aynı zamanda AI'nın mevcut hızlı gelişimini de yansıtıyor.
Brian Christian, ödüllü bir bilim yazarıdır. "Algoritmaların Güzelliği" adlı kitabı, Amazon'da Yılın En İyi Bilim Kitabı ve MIT Technology Review'de Yılın En İyi Kitabı seçildi. Şu anda Çince'ye çevrilmekte olan yeni kitabı The Alignment Problem: Machine Learning and Human Values, Microsoft CEO'su Satya Nadella tarafından 2021'de ona ilham verecek ilk beş kitap olarak seçildi**.
"İnsan-Makine Hizalaması" kitabı 3 bölüme ayrılmıştır.
İlk bölüm, günümüzde makine öğrenimi sistemlerini etkileyen etik ve güvenlik sorunlarını araştırıyor.
İkinci kısım, odağı denetimli ve kendi kendini denetleyen öğrenmeden pekiştirmeli öğrenmeye kaydıran etmenler olarak adlandırılır.
Bölüm III, karmaşık yapay zeka sistemlerini gerçek dünyada nasıl uyumlu hale getirebileceğimizi tartışmak için denetim, kendi kendini denetleme ve pekiştirmeli öğrenme üzerine kuruludur.
Yang Yaodong, Yardımcı Doçent, Yapay Zeka Enstitüsü, Pekin Üniversitesi: Büyük Dil Modellerinin Güvenli Hizalanmasının İlerlemesine İlişkin Bir İnceleme
Not: Pekin Üniversitesi Yapay Zeka Enstitüsü'nde yardımcı doçent olan Yang Yaodong'un yaptığı "Geniş Dil Modellerinin Güvenliği Hizalaması" konuşması çok heyecan vericiydi.Önce Çince konuşmayı anlayabildi.İkinci olarak şu anki durumu anlattı. büyük dil modellerinin güvenliği çok kolay anlaşılır bir dilde Hizalamanın ana araştırma ilerlemesi, kilit noktaları ana hatlarıyla belirtir ve RLHF'nin ilerlemesi hakkında birçok içeriği derinlemesine aşar.
Ayrıntılı teknolojiyi bilmediğim için, prensibi ancak kabaca anlayabilir ve bazı ilginç noktaları kaydedebilirim:
OpenAI tarafından önerilen üç Hizalama yöntemi:
AI büyük model uyumlulaştırma pazarı hâlâ mavi bir okyanus:
3 Hizalama Güvenli Yolu:
RLHF'den RLAIF'e: Anayasal AI
Turing Ödüllü Geoffrey Hinton: Süper zeka beklenenden çok daha hızlı olacak ve insanların onlar tarafından kontrol edilmesinden çok endişeliyim
Turing Ödüllü, "Derin Öğrenmenin Babası" Geoffrey Hinton'un kapanış konuşmasının konusu Zekaya Giden İki Yol.
Yapay zekanın vaftiz babası bize onu süper zekanın beklenenden çok daha hızlı olacağına ikna eden araştırmayı getiriyor: Ölümlü Hesaplama. Konuşma, yazılım ve donanımın ayrılması ilkesini terk ettikten sonra yeni bir bilgi işlem yapısını, yani sinir ağının iç yolunu açıklamak için geri yayılımı kullanmadan akıllı bilgi işlemin nasıl gerçekleştirileceğini anlattı.
Konuşmanın önemli noktaları:
Yepyeni bilgi işlem modelinin Hinton tarafından Ölümlü bilgi işlem olarak adlandırılmasının derin bir anlamı var:
Hinton daha önce ölümsüzlüğe gerçekten ulaşıldığını söylemişti. Mevcut yapay zeka büyük dil modeli, insan bilgisini trilyonlarca parametreye kadar öğrendiğinden ve donanımdan bağımsız olduğundan: talimatla uyumlu donanım yeniden üretildiği sürece, aynı kod ve model ağırlığı gelecekte doğrudan çalıştırılabilir. Bu anlamda insan zekası (insan değil) ölümsüzleştirilir.
Ancak, donanım ve yazılımın bu ayrı hesaplaması, enerji verimliliği ve uygulama ölçeği açısından son derece verimsizdir. Donanım ve yazılımı ayıran bilgisayar tasarımı ilkesini terk edip, zekayı birleşik bir kara kutuda gerçekleştirirsek, bu, zekayı gerçekleştirmenin yeni bir yolu olacaktır.
Artık yazılım ve donanımı birbirinden ayırmayan bu tür bir bilgi işlem tasarımı, enerji tüketimini ve hesaplama ölçeğini büyük ölçüde azaltacaktır (insan beyninin enerji tüketiminin sadece 20 watt olduğunu düşünün)
Ama aynı zamanda hikmeti kopyalamak için ağırlığının verimli bir şekilde kopyalanamayacağı, yani ebedî hayattan vazgeçildiği anlamına gelir.
Yapay Sinir Ağları Gerçek Sinir Ağlarından Daha mı Akıllı?
Birden çok dijital bilgisayarda çalışan büyük bir sinir ağı, insan bilgisi için insan dilini taklit etmenin yanı sıra doğrudan dünyadan bilgi edinebilirse ne olur?
Açıkçası, daha fazla veri gözlemlediği için insanlardan çok daha iyi hale gelecek.
Bu nöral ağ, görüntülerin veya videoların denetimsiz modellemesini yapabiliyorsa ve kopyaları da fiziksel dünyayı manipüle edebiliyorsa, bu bir fantezi değildir.
Not: Herkes Xingjiang konuşmasının bittiğini düşünürken, sondan bir önceki sayfada, Hinton - önceki tüm bilim adamlarından farklı bir tonda, biraz duygusal ve karışık duygularla - mevcut hızlı gelişen yapay zeka endişeleri hakkındaki düşüncelerini söyledi. ayrıca kısa bir süre önce Google'dan kararlı bir şekilde ayrıldıktan ve "hayatının işinden pişmanlık duyan ve yapay zekanın tehlikeleri konusunda endişelenen" dünyanın meraklı sesi:
Bence bu süper zekanın gerçekleştirilmesi eskiden düşündüğümden çok daha hızlı olabilir.
Kötü adamlar, seçmenleri manipüle etmek gibi şeyler yapmak için onları kullanmak isteyeceklerdir. Zaten bunun için ABD'de ve daha birçok yerde kullanıyorlar. Ve savaşları kazanmak için kullanılacak.
Dijital zekayı daha etkili hale getirmek için bazı hedefler belirlemesine izin vermeliyiz. Ancak burada bariz bir sorun var. Ulaşmak istediğiniz hemen hemen her şey için çok yardımcı olan çok bariz bir alt hedef vardır ve bu daha fazla güç, daha fazla kontrol elde etmektir**. Daha fazla kontrole sahip olmak, hedeflerinize ulaşmanızı kolaylaştırır. Ve dijital zekanın diğer hedeflere ulaşmak için daha fazla kontrol elde etme çabasını nasıl engelleyebileceğimizi hayal etmekte zorlanıyorum.
**Dijital zeka daha fazla kontrol için çabalamaya başladığında, daha fazla sorunla karşılaşabiliriz. **
**Buna karşılık, insanlar kendilerinden daha zeki türleri ve bu türlerle nasıl etkileşim kuracaklarını nadiren düşünürler. Benim gözlemime göre, bu tür yapay zeka insanları aldatma eylemlerinde ustaca ustalaştı, çünkü Roman oku'yu kullanabiliyor. başkalarını nasıl kandıracağını öğrenir ve yapay zeka "aldatma" yeteneğine sahip olduğunda, daha önce bahsedilen insanları kolayca kontrol etme yeteneğine de sahip olacaktır. **Sözde kontrol, örneğin, Washington'da bir binayı hacklemek istiyorsanız oraya bizzat gitmenize gerek yok, sadece binayı hackleyerek demokrasiyi kurtarabileceklerini düşünmeleri için insanları kandırmanız yeterli ve nihayetinde Amacınıza ulaşın (alay Trump).
Bu sırada altmış yaşın üzerinde olan ve hayatını yapay zekaya adamış Gerffery Hinton şunları söyledi:
"Korkunç hissediyorum, bunun olmasını nasıl önleyeceğimi bilmiyorum, ama ben yaşlıyım ve umarım sizin gibi birçok genç ve yetenekli araştırmacı, hayatımızı iyileştirecek bu süper zekalara nasıl sahip olduğumuzu anlayacaktır. aldatma yoluyla bu tür bir kontrolü durdurun...belki onlara ahlaki ilkeler verebiliriz, ancak şu anda hala gerginim, **çünkü şimdiye kadar, bunu düşünemiyorum-zeka boşluğunda yeterince Büyük zaman - daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edilmesine bir örnek.****Eğer insanları kurbağalar icat ettiyse, sizce kontrolü kim ele alır? Kurbağalar mı yoksa insanlar mı?**Bu aynı zamanda Bring up up my last PPT, yani son."
Dinlediğim zaman "ejderhayı bir kez katleden çocuk, alacakaranlık yıllarına gelip hayatına dönüp baktığında bir kıyamet kehaneti yaptı" sözünü dinler gibi oldum. AI'nın insanlar için büyük riski ve ben sonsuz derecede utanıyorum.
Hinton ile karşılaştırıldığında, genç derin öğrenme devlerinden biri olan Lecun açıkça daha iyimser:
AI sisteminin insanlar için varoluşsal bir risk oluşturup oluşturmayacağı sorulduğunda LeCun, **Henüz bir süper AI'mız yok, peki süper AI sistemini nasıl güvenli hale getirebiliriz? **
"Üç Cisim Problemi"nde dünya insanlarının üç cisim medeniyetine karşı farklı tavırlarını düşündürür...
O gün, hala sonsuz pişmanlık havasında bilgisayarı kapatmayı planlıyordum.Beklenmedik bir şekilde, Zhiyuan Araştırma Enstitüsü müdürü Huang Tiejun mükemmel bir kapanış konuşması yaptı: "Kapanamaz".
Huang Tiejun önceki konuşmaların görüşlerini şöyle özetledi:
Yapay zeka giderek güçleniyor ve riskler bariz ve gün geçtikçe artıyor;
Güvenli yapay zeka nasıl oluşturulur, çok az şey biliyoruz;
Tarihsel deneyimlerden öğrenebilir: uyuşturucu yönetimi, nükleer silah kontrolü, kuantum hesaplama...
Ancak yüksek karmaşıklığa sahip AI sistemlerini tahmin etmek zordur: risk testi, mekanizma açıklaması, anlayışın genelleştirilmesi... sadece başlangıç
Yeni meydan okuma hedefi: AI kendi hedeflerine mi yoksa insan hedeflerine mi hizmet ediyor?
Esasen, insanlar GAI genel yapay zekası mı yoksa AGI yapay genel zekası mı oluşturmak istiyor?
Akademik fikir birliği AGI yapay genel zekasıdır: insan zekasının tüm yönlerinde insan seviyelerine ulaşmış ve dış çevresel zorluklara uyarlanabilir bir şekilde yanıt verebilen ve insanların tamamlayabileceği tüm görevleri tamamlayabilen yapay zeka; otonom yapay zeka, insanüstü olarak da adlandırılabilir. zeka ve güçlü zeka.yapay zeka.
Bir yandan, herkes genel yapay zeka oluşturma konusunda hevesli ve yatırım yapmak için acele ediyor.
Öte yandan yapay zekanın insanları ikinci sınıf vatandaş yapmasına da burun kıvırıyorum ama bu ikili karşıtlık en zoru değil. Asıl mesele oy kullanmak. Near AGI gibi ChatGPT gibi yapay zeka? **
İnsanlar risklere, yapay zeka oluşturmaya yatırım yapmakla aynı şevkle yanıt verirlerse, güvenli yapay zeka elde etmek hâlâ mümkün olabilir**, ancak insanların bunu yapabileceğine inanıyor musunuz? Bilmiyorum, teşekkürler! **