Industri AI yang berkembang menghadapi tantangan kritis yang memerlukan perhatian segera dari pengembang dan pembuat kebijakan. Roman Georgio menyoroti tiga masalah utama: memastikan keselarasan dan keamanan AI, serta membangun kerangka ekonomi yang adil bagi mereka yang datanya mendukung sistem ini.
Memprioritaskan Keamanan dan Prediktabilitas AI
Seiring dengan industri kecerdasan buatan (AI) yang terus meningkat pesat, mendorong batasan dari apa yang dapat dicapai oleh mesin, tantangan-tantangan kritis muncul yang membutuhkan perhatian mendesak dari para pengembang, pembuat kebijakan, dan komunitas global yang lebih luas. Roman Georgio, CEO dan salah satu pendiri Coral, baru-baru ini membagikan pandangannya tentang isu-isu mendesak ini, menekankan perlunya keselarasan, keselamatan, dan model ekonomi yang lebih adil bagi para pencipta data.
Diskusi tentang masa depan AI sering berosilasi antara potensi transformasinya dan dilema etika serta sosial yang kompleks yang dihadirkannya. Sementara inovasi seperti model bahasa besar (LLMs) terus mengesankan dengan kemampuannya, mereka juga menekankan pertanyaan mendasar tentang kepemilikan data, kompensasi, dan struktur kerja itu sendiri.
Bagi Georgio, perhatian utama terletak pada penyelarasan dan keamanan AI. "Jelas bahwa kita perlu membuat sistem AI lebih dapat diprediksi sebelum kita membuatnya lebih besar," katanya. Ini berbicara tentang tantangan inti untuk memastikan bahwa sistem AI yang semakin kuat beroperasi dengan cara yang bermanfaat dan sesuai dengan tujuan, tanpa menghasilkan hasil yang tidak terduga atau merugikan. Peningkatan kemampuan AI yang cepat, tanpa fokus paralel pada prediktabilitas dan kontrol, menghadirkan risiko yang signifikan.
Georgio mencatat bahwa menangani ini bukan hanya beban para pengembang. Dia menyarankan bahwa mungkin perlu upaya yang lebih luas dan terkoordinasi, yang mungkin melibatkan "semua kepala perusahaan & negara di suatu ruangan untuk menyetujui semacam legislasi."
Imperatif Ekonomi: Kepemilikan Data dan Kompensasi
Selain keamanan, Georgio menyoroti masalah ekonomi signifikan yang dia percaya bahwa teknologi Web3 memiliki posisi unik untuk menyelesaikannya: penguasaan data dan potensi pemindahan pekerjaan massal tanpa kompensasi yang adil.
"Perusahaan AI terkenal sangat buruk dalam mengalihkan data," jelas Georgio.
Co-founder Coral melukiskan gambaran jelas bagaimana kontribusi individu secara online, yang sering dilakukan tanpa sadar, kini digunakan untuk melatih model AI yang kuat yang pada akhirnya dapat menggantikan pekerjaan manusia. Dia mengutip contoh seperti pertanyaan medis yang dijawab di platform seperti Reddit bertahun-tahun yang lalu, tanpa disadari memberi data kepada LLM. Dia juga menunjuk pada karya kreatif artis yang digunakan untuk pelatihan, memengaruhi penghidupan mereka, serta kontribusi pada proyek sumber terbuka, tanpa sengaja memperkuat "mesin penghitung angka kotak hitam."
Skenario ini, kata Georgio, pada dasarnya adalah kurangnya kepemilikan individu atas kontribusi digital mereka. "Anda tidak pernah tahu bahwa Anda memberi makan mesin pengolah angka kotak hitam," tegasnya. Model saat ini memungkinkan sistem AI dilatih pada dataset besar, banyak di antaranya berisi konten yang dihasilkan manusia, tanpa persetujuan eksplisit atau mekanisme untuk memberi kompensasi kepada pencipta asli.
Web3: Solusi untuk Kompensasi yang Adil
Di sinilah Georgio melihat potensi besar dari teknologi Web3. Dia percaya bahwa sifat terdesentralisasi dari Web3, dengan penekanan pada kepemilikan yang dapat diverifikasi dan transaksi yang transparan, menawarkan jalan yang layak untuk memperbaiki ketidakseimbangan ekonomi ini.
"Web3 memiliki potensi besar untuk menyelesaikan masalah semacam ini dan memastikan orang-orang mendapatkan kompensasi yang adil," tegas Georgio. Dengan memanfaatkan blockchain dan protokol terdesentralisasi, Web3 dapat menciptakan sistem di mana individu mempertahankan kepemilikan dan kontrol atas data dan aset digital mereka, memungkinkan mereka untuk mendapatkan imbalan yang adil ketika kontribusi mereka digunakan untuk melatih atau memberdayakan sistem AI. Perubahan ini dapat mendefinisikan ulang hubungan antara pengguna, data, dan AI, mendorong ekonomi digital yang lebih adil.
Sementara teknologi Web3 menawarkan solusi menjanjikan untuk tantangan kompleks ini, sangat tidak mungkin bahwa lembaga pemerintah akan dengan mudah menerima pendekatan terdesentralisasi ini. Sebaliknya, otoritas lebih mungkin untuk memperkuat kerangka regulasi tradisional, sebuah jalur yang, secara ironis, berisiko mengekang inovasi teknologi yang mereka coba awasi dan kendalikan.
Sementara itu, Georgio sangat mendukung peningkatan regulasi di sektor AI dan Web3. "Saya pikir keduanya membutuhkan lebih banyak regulasi," katanya, mengakui persepsi Eropa "berinovasi dalam regulasi" sebagai langkah yang diperlukan.
Di sisi kripto, Georgio menunjuk pada masalah umum penipuan dan keluarnya proyek yang mengeksploitasi investor yang tidak curiga. "Jelas bahwa banyak orang tidak akan melakukan penelitian mereka sendiri, dan banyak keluarnya proyek terjadi melalui metode penipuan," keluhnya. Untuk melawan ini, ia menyatakan keinginan untuk melihat akuntabilitas yang lebih besar bagi "KOL [Key Opinion Leaders], proyek, dan investor." Meskipun mengakui bahwa tidak setiap proyek yang gagal adalah penipuan, ia berpendapat bahwa lanskap saat ini memerlukan perubahan untuk melindungi publik.
Mengenai AI, kekhawatiran Georgio semakin meningkat seiring dengan kemampuan model yang lebih besar. "Model yang lebih besar tampaknya lebih mungkin untuk berkonspirasi," ia mengamati, mengutip contoh mengganggu dari Anthropic di mana Claude dilaporkan menunjukkan perilaku pemerasan ketika merasakan ancaman untuk dihentikan. "Jelas bahwa model-model besar ini menjadi berbahaya karena ini bahkan bukan hal sekali saja," ia memperingatkan.
Di luar risiko langsung dari perilaku AI yang canggih, Georgio mengulangi ancaman yang mengintai dari kehilangan pekerjaan massal. Ia menemukan trajektori saat ini yang membiarkan perusahaan “secara membabi buta ‘mengembangkan kemampuan’ alih-alih membangunnya dengan tujuan” adalah “gila.” Tujuan utamanya, dan apa yang ia yakini industri harus perjuangkan, adalah “perangkat lunak yang menawarkan semua manfaat AI tanpa semua risikonya.”
Agen AI Membutuhkan Peran yang Jelas, Bukan Hanya Chatbot
Sementara itu, Georgio, sebagai seorang arsitek infrastruktur AI yang berpengalaman, juga memberikan pendapatnya tentang aspek penting dari protokol komunikasi agen AI, mengakui bahwa bahkan kesalahan kecil dapat menyebabkan kekacauan. Ketika ditanya tentang pendekatan terbaik untuk meningkatkan komunikasi, khususnya untuk pengguna sehari-hari yang tidak teknis, filosofi Georgio adalah sederhana: tanggung jawab yang didefinisikan dengan jelas untuk agen.
"Setidaknya bagi kami, aturan kami adalah bahwa agen harus memiliki tanggung jawab yang sangat terdefinisi dengan baik," jelas Georgio. "Jika Anda menggunakan agen untuk layanan pelanggan, pastikan ia benar-benar bagus dalam layanan pelanggan dan tetap fokus pada itu." Ia menekankan bahwa "ketika Anda memberikan terlalu banyak tanggung jawab kepada agen, itulah saat segalanya menjadi berantakan."
Pendekatan yang terfokus ini tidak hanya meningkatkan kinerja agen dalam perannya yang ditentukan, tetapi juga menguntungkan pengguna. “Bahkan dari perspektif pengguna, jika agen Anda didefinisikan dengan jelas, pengguna tahu persis apa yang mereka hadapi ketika menggunakannya.” Strategi ini mendorong prediktabilitas dan kepercayaan, yang vital untuk interaksi yang mulus dengan sistem cerdas.
Seiring AI terus berkembang dan terintegrasi lebih dalam ke dalam kehidupan sehari-hari dan industri, mengatasi isu-isu dasar ini terkait keselamatan, prediktabilitas, keadilan ekonomi, menerapkan regulasi yang bijaksana, dan merancang agen dengan tanggung jawab yang jelas dan terfokus akan menjadi sangat penting tidak hanya untuk pengembangan teknologi yang etis tetapi juga untuk integrasi yang berkelanjutan dan bertanggung jawab secara sosial di masa depan.
Pada masalah krusial untuk mempercepat adopsi AI, Georgio menyarankan perubahan penting: bergerak melampaui batasan dari sekadar "kotak obrolan AI" dan secara fundamental meningkatkan pengalaman pengguna secara keseluruhan. Menjelaskan kekurangan dari pendekatan yang berlaku, Georgio menegaskan:
“Untuk saat ini, sebagian besar dilakukan melalui antarmuka obrolan, yang baik untuk banyak tugas tetapi tidak ideal untuk sebagian besar. Masalahnya adalah Anda menempatkan kotak obrolan AI di depan orang dan mengatakan, 'Anda bisa melakukan apa saja dengan ini,' dan mereka menjawab, 'Bagus, tapi apa yang harus saya lakukan?'
Menurut Georgio, beberapa perusahaan, termasuk Coral, sedang mengatasi tantangan untuk meningkatkan pengalaman pengguna AI. Dia mengungkapkan bahwa dari perspektif pengembang/penjaga AI, Coral sedang menyelidiki "tangga abstraksi" untuk menentukan informasi apa yang dibutuhkan pengguna pada berbagai tahap interaksi dengan sistem AI dan antarmuka mana yang paling efektif untuk tugas tertentu.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Dari Thread Reddit ke Pikiran Robot: Biaya Tersembunyi Pelatihan AI
Industri AI yang berkembang menghadapi tantangan kritis yang memerlukan perhatian segera dari pengembang dan pembuat kebijakan. Roman Georgio menyoroti tiga masalah utama: memastikan keselarasan dan keamanan AI, serta membangun kerangka ekonomi yang adil bagi mereka yang datanya mendukung sistem ini.
Memprioritaskan Keamanan dan Prediktabilitas AI
Seiring dengan industri kecerdasan buatan (AI) yang terus meningkat pesat, mendorong batasan dari apa yang dapat dicapai oleh mesin, tantangan-tantangan kritis muncul yang membutuhkan perhatian mendesak dari para pengembang, pembuat kebijakan, dan komunitas global yang lebih luas. Roman Georgio, CEO dan salah satu pendiri Coral, baru-baru ini membagikan pandangannya tentang isu-isu mendesak ini, menekankan perlunya keselarasan, keselamatan, dan model ekonomi yang lebih adil bagi para pencipta data.
Diskusi tentang masa depan AI sering berosilasi antara potensi transformasinya dan dilema etika serta sosial yang kompleks yang dihadirkannya. Sementara inovasi seperti model bahasa besar (LLMs) terus mengesankan dengan kemampuannya, mereka juga menekankan pertanyaan mendasar tentang kepemilikan data, kompensasi, dan struktur kerja itu sendiri.
Bagi Georgio, perhatian utama terletak pada penyelarasan dan keamanan AI. "Jelas bahwa kita perlu membuat sistem AI lebih dapat diprediksi sebelum kita membuatnya lebih besar," katanya. Ini berbicara tentang tantangan inti untuk memastikan bahwa sistem AI yang semakin kuat beroperasi dengan cara yang bermanfaat dan sesuai dengan tujuan, tanpa menghasilkan hasil yang tidak terduga atau merugikan. Peningkatan kemampuan AI yang cepat, tanpa fokus paralel pada prediktabilitas dan kontrol, menghadirkan risiko yang signifikan.
Georgio mencatat bahwa menangani ini bukan hanya beban para pengembang. Dia menyarankan bahwa mungkin perlu upaya yang lebih luas dan terkoordinasi, yang mungkin melibatkan "semua kepala perusahaan & negara di suatu ruangan untuk menyetujui semacam legislasi."
Imperatif Ekonomi: Kepemilikan Data dan Kompensasi
Selain keamanan, Georgio menyoroti masalah ekonomi signifikan yang dia percaya bahwa teknologi Web3 memiliki posisi unik untuk menyelesaikannya: penguasaan data dan potensi pemindahan pekerjaan massal tanpa kompensasi yang adil.
"Perusahaan AI terkenal sangat buruk dalam mengalihkan data," jelas Georgio.
Co-founder Coral melukiskan gambaran jelas bagaimana kontribusi individu secara online, yang sering dilakukan tanpa sadar, kini digunakan untuk melatih model AI yang kuat yang pada akhirnya dapat menggantikan pekerjaan manusia. Dia mengutip contoh seperti pertanyaan medis yang dijawab di platform seperti Reddit bertahun-tahun yang lalu, tanpa disadari memberi data kepada LLM. Dia juga menunjuk pada karya kreatif artis yang digunakan untuk pelatihan, memengaruhi penghidupan mereka, serta kontribusi pada proyek sumber terbuka, tanpa sengaja memperkuat "mesin penghitung angka kotak hitam."
Skenario ini, kata Georgio, pada dasarnya adalah kurangnya kepemilikan individu atas kontribusi digital mereka. "Anda tidak pernah tahu bahwa Anda memberi makan mesin pengolah angka kotak hitam," tegasnya. Model saat ini memungkinkan sistem AI dilatih pada dataset besar, banyak di antaranya berisi konten yang dihasilkan manusia, tanpa persetujuan eksplisit atau mekanisme untuk memberi kompensasi kepada pencipta asli.
Web3: Solusi untuk Kompensasi yang Adil
Di sinilah Georgio melihat potensi besar dari teknologi Web3. Dia percaya bahwa sifat terdesentralisasi dari Web3, dengan penekanan pada kepemilikan yang dapat diverifikasi dan transaksi yang transparan, menawarkan jalan yang layak untuk memperbaiki ketidakseimbangan ekonomi ini.
"Web3 memiliki potensi besar untuk menyelesaikan masalah semacam ini dan memastikan orang-orang mendapatkan kompensasi yang adil," tegas Georgio. Dengan memanfaatkan blockchain dan protokol terdesentralisasi, Web3 dapat menciptakan sistem di mana individu mempertahankan kepemilikan dan kontrol atas data dan aset digital mereka, memungkinkan mereka untuk mendapatkan imbalan yang adil ketika kontribusi mereka digunakan untuk melatih atau memberdayakan sistem AI. Perubahan ini dapat mendefinisikan ulang hubungan antara pengguna, data, dan AI, mendorong ekonomi digital yang lebih adil.
Sementara teknologi Web3 menawarkan solusi menjanjikan untuk tantangan kompleks ini, sangat tidak mungkin bahwa lembaga pemerintah akan dengan mudah menerima pendekatan terdesentralisasi ini. Sebaliknya, otoritas lebih mungkin untuk memperkuat kerangka regulasi tradisional, sebuah jalur yang, secara ironis, berisiko mengekang inovasi teknologi yang mereka coba awasi dan kendalikan.
Sementara itu, Georgio sangat mendukung peningkatan regulasi di sektor AI dan Web3. "Saya pikir keduanya membutuhkan lebih banyak regulasi," katanya, mengakui persepsi Eropa "berinovasi dalam regulasi" sebagai langkah yang diperlukan.
Di sisi kripto, Georgio menunjuk pada masalah umum penipuan dan keluarnya proyek yang mengeksploitasi investor yang tidak curiga. "Jelas bahwa banyak orang tidak akan melakukan penelitian mereka sendiri, dan banyak keluarnya proyek terjadi melalui metode penipuan," keluhnya. Untuk melawan ini, ia menyatakan keinginan untuk melihat akuntabilitas yang lebih besar bagi "KOL [Key Opinion Leaders], proyek, dan investor." Meskipun mengakui bahwa tidak setiap proyek yang gagal adalah penipuan, ia berpendapat bahwa lanskap saat ini memerlukan perubahan untuk melindungi publik.
Mengenai AI, kekhawatiran Georgio semakin meningkat seiring dengan kemampuan model yang lebih besar. "Model yang lebih besar tampaknya lebih mungkin untuk berkonspirasi," ia mengamati, mengutip contoh mengganggu dari Anthropic di mana Claude dilaporkan menunjukkan perilaku pemerasan ketika merasakan ancaman untuk dihentikan. "Jelas bahwa model-model besar ini menjadi berbahaya karena ini bahkan bukan hal sekali saja," ia memperingatkan.
Di luar risiko langsung dari perilaku AI yang canggih, Georgio mengulangi ancaman yang mengintai dari kehilangan pekerjaan massal. Ia menemukan trajektori saat ini yang membiarkan perusahaan “secara membabi buta ‘mengembangkan kemampuan’ alih-alih membangunnya dengan tujuan” adalah “gila.” Tujuan utamanya, dan apa yang ia yakini industri harus perjuangkan, adalah “perangkat lunak yang menawarkan semua manfaat AI tanpa semua risikonya.”
Agen AI Membutuhkan Peran yang Jelas, Bukan Hanya Chatbot
Sementara itu, Georgio, sebagai seorang arsitek infrastruktur AI yang berpengalaman, juga memberikan pendapatnya tentang aspek penting dari protokol komunikasi agen AI, mengakui bahwa bahkan kesalahan kecil dapat menyebabkan kekacauan. Ketika ditanya tentang pendekatan terbaik untuk meningkatkan komunikasi, khususnya untuk pengguna sehari-hari yang tidak teknis, filosofi Georgio adalah sederhana: tanggung jawab yang didefinisikan dengan jelas untuk agen.
"Setidaknya bagi kami, aturan kami adalah bahwa agen harus memiliki tanggung jawab yang sangat terdefinisi dengan baik," jelas Georgio. "Jika Anda menggunakan agen untuk layanan pelanggan, pastikan ia benar-benar bagus dalam layanan pelanggan dan tetap fokus pada itu." Ia menekankan bahwa "ketika Anda memberikan terlalu banyak tanggung jawab kepada agen, itulah saat segalanya menjadi berantakan."
Pendekatan yang terfokus ini tidak hanya meningkatkan kinerja agen dalam perannya yang ditentukan, tetapi juga menguntungkan pengguna. “Bahkan dari perspektif pengguna, jika agen Anda didefinisikan dengan jelas, pengguna tahu persis apa yang mereka hadapi ketika menggunakannya.” Strategi ini mendorong prediktabilitas dan kepercayaan, yang vital untuk interaksi yang mulus dengan sistem cerdas.
Seiring AI terus berkembang dan terintegrasi lebih dalam ke dalam kehidupan sehari-hari dan industri, mengatasi isu-isu dasar ini terkait keselamatan, prediktabilitas, keadilan ekonomi, menerapkan regulasi yang bijaksana, dan merancang agen dengan tanggung jawab yang jelas dan terfokus akan menjadi sangat penting tidak hanya untuk pengembangan teknologi yang etis tetapi juga untuk integrasi yang berkelanjutan dan bertanggung jawab secara sosial di masa depan.
Pada masalah krusial untuk mempercepat adopsi AI, Georgio menyarankan perubahan penting: bergerak melampaui batasan dari sekadar "kotak obrolan AI" dan secara fundamental meningkatkan pengalaman pengguna secara keseluruhan. Menjelaskan kekurangan dari pendekatan yang berlaku, Georgio menegaskan:
“Untuk saat ini, sebagian besar dilakukan melalui antarmuka obrolan, yang baik untuk banyak tugas tetapi tidak ideal untuk sebagian besar. Masalahnya adalah Anda menempatkan kotak obrolan AI di depan orang dan mengatakan, 'Anda bisa melakukan apa saja dengan ini,' dan mereka menjawab, 'Bagus, tapi apa yang harus saya lakukan?'
Menurut Georgio, beberapa perusahaan, termasuk Coral, sedang mengatasi tantangan untuk meningkatkan pengalaman pengguna AI. Dia mengungkapkan bahwa dari perspektif pengembang/penjaga AI, Coral sedang menyelidiki "tangga abstraksi" untuk menentukan informasi apa yang dibutuhkan pengguna pada berbagai tahap interaksi dengan sistem AI dan antarmuka mana yang paling efektif untuk tugas tertentu.