CEO Antropik Dario Amodei memperingatkan ‘ras’ untuk memahami AI karena menjadi lebih kuat

Tepat setelah akhir dari KTT Tindakan AI Di Paris, salah satu pendiri dan CEO Anthropic Dario Amodei ditelepon Acara ini merupakan “peluang yang terlewatkan.” Dia menambahkan bahwa “fokus dan urgensi yang lebih besar diperlukan pada beberapa topik mengingat kecepatan di mana teknologi ini berkembang” di Pernyataan dirilis pada hari Selasa.

Perusahaan AI mengadakan acara yang berfokus pada pengembang di Paris dalam kemitraan dengan startup Prancis Debudan TechCrunch memiliki kesempatan untuk mewawancarai Amodei di atas panggung. Di acara tersebut, ia menjelaskan garis pemikirannya dan mempertahankan jalan ketiga yang bukan optimisme murni atau kritik murni tentang topik -topik inovasi dan pemerintahan AI, masing -masing.

“Saya dulunya adalah ahli saraf, di mana pada dasarnya saya melihat ke dalam otak asli untuk mencari nafkah. Dan sekarang kita mencari di dalam otak buatan untuk mencari nafkah. Jadi kami akan, selama beberapa bulan ke depan, memiliki beberapa kemajuan menarik di bidang interpretabilitas – di mana kami benar -benar mulai memahami bagaimana model beroperasi, ”kata Amodei kepada TechCrunch.

“Tapi itu pasti balapan. Ini adalah perlombaan antara membuat model lebih kuat, yang sangat cepat bagi kami dan sangat cepat untuk orang lain – Anda tidak dapat benar -benar memperlambat, bukan? … Pemahaman kita harus mengimbangi kemampuan kita untuk membangun sesuatu. Saya pikir itulah satu -satunya jalan, ”tambahnya.

Sejak yang pertama KTT AI di Bletchley Di Inggris, nada diskusi seputar tata kelola AI telah berubah secara signifikan. Ini sebagian karena lanskap geopolitik saat ini.

“Saya tidak di sini pagi ini untuk berbicara tentang AI Safety, yang merupakan judul konferensi beberapa tahun yang lalu,” Wakil Presiden AS JD Vance mengatakan di KTT Aksi AI pada hari Selasa. “Saya di sini untuk berbicara tentang peluang AI.”

Menariknya, Amodei berusaha menghindari antagonisasi ini antara keselamatan dan peluang. Faktanya, dia percaya peningkatan fokus pada keselamatan adalah kesempatan.

“Di KTT asli, KTT Bletchley Inggris, ada banyak diskusi tentang pengujian dan pengukuran untuk berbagai risiko. Dan saya tidak berpikir hal -hal ini sangat memperlambat teknologi sama sekali, ”kata Amodei di acara antropik. “Jika ada, melakukan pengukuran semacam ini telah membantu kami lebih memahami model kami, yang pada akhirnya, membantu kami menghasilkan model yang lebih baik.”

Dan setiap kali Amodei memberi penekanan pada keselamatan, ia juga suka mengingatkan semua orang bahwa antropik masih sangat fokus pada membangun model AI perbatasan.

“Saya tidak ingin melakukan apa pun untuk mengurangi janji. Kami menyediakan model setiap hari yang dapat dibangun orang dan yang digunakan untuk melakukan hal -hal luar biasa. Dan kita pasti tidak boleh berhenti melakukan itu, ”katanya.

“Ketika orang -orang berbicara banyak tentang risikonya, saya agak kesal, dan saya berkata: ‘Oh, kawan, tidak ada yang benar -benar melakukan pekerjaan yang baik untuk benar -benar menjabarkan betapa hebatnya teknologi ini,’” tambahnya nanti percakapan.

Biaya pelatihan Deepseek ‘tidak akurat’

Saat percakapan bergeser ke Pembuat LLM Cina DeepseekModel -model terbaru, Amodei meremehkan pencapaian teknis dan mengatakan dia merasa seperti reaksi publik adalah “anorganik.”

“Jujur, reaksiku sangat kecil. Kami telah melihat V3, yang merupakan model dasar untuk Deepseek R1, pada bulan Desember. Dan itu adalah model yang mengesankan, ”katanya. “Model yang dirilis pada bulan Desember adalah kurva pengurangan biaya yang sangat normal yang telah kami lihat dalam model dan model lainnya.”

Yang terkenal adalah bahwa model itu tidak keluar dari “tiga atau empat lab Frontier” yang berbasis di AS ia mendaftarkan Google, Openai dan Anthropic sebagai beberapa lab Frontier yang umumnya mendorong amplop dengan rilis model baru.

“Dan itu adalah masalah geopolitik bagi saya. Saya tidak pernah ingin pemerintah otoriter mendominasi teknologi ini, ”katanya.

Adapun biaya pelatihan Deepseek yang seharusnya, ia menolak gagasan bahwa pelatihan Deepseek V3 100x lebih murah dibandingkan dengan biaya pelatihan di AS “Saya pikir [it] tidak akurat dan tidak berdasarkan fakta, ”katanya.

Model Claude yang akan datang dengan penalaran

Sementara Amodei tidak mengumumkan model baru di acara hari Rabu, ia menggoda beberapa rilis perusahaan yang akan datang – dan ya, itu termasuk beberapa kapasitas penalaran.

“Kami umumnya fokus untuk mencoba membuat sendiri model penalaran yang lebih baik dibedakan. Kami khawatir memastikan kami memiliki kapasitas yang cukup, bahwa model menjadi lebih pintar, dan kami khawatir tentang hal -hal keamanan, ”kata Amodei.

Salah satu masalah yang coba dipecahkan oleh antropik adalah teka -teki pemilihan model. Jika Anda memiliki akun ChatGPT Plus, misalnya, mungkin sulit untuk mengetahui model mana yang harus Anda pilih dalam pop-up pemilihan model untuk pesan Anda berikutnya.

Hal yang sama berlaku untuk pengembang yang menggunakan API Model Bahasa Besar (LLM) untuk aplikasi mereka sendiri. Mereka ingin menyeimbangkan hal -hal antara keakuratan, kecepatan jawaban dan biaya.

“Kami sedikit bingung oleh gagasan bahwa ada model normal dan ada model penalaran dan bahwa mereka agak berbeda satu sama lain,” kata Amodei. “Jika saya berbicara dengan Anda, Anda tidak memiliki dua otak dan salah satunya merespons segera dan suka, yang lain menunggu lebih lama.”

Menurutnya, tergantung pada inputnya, harus ada transisi yang lebih halus antara model pra-terlatih seperti Claude 3.5 Sonnet atau GPT-4O dan model yang dilatih dengan pembelajaran penguatan dan yang dapat menghasilkan rantai-pemikiran (COT) seperti Openai’s O1 atau R1 Deepseek.

“Kami berpikir bahwa ini harus ada sebagai bagian dari satu entitas kontinu tunggal. Dan kita mungkin belum ada di sana, tetapi antropik benar -benar ingin memindahkan barang -barang ke arah itu, ”kata Amodei. “Kita harus memiliki transisi yang lebih halus dari itu ke model yang sudah terlatih-daripada ‘Ini ada yang A dan inilah hal B,’” tambahnya.

Karena perusahaan AI besar seperti Anthropic terus merilis model yang lebih baik, Amodei percaya itu akan membuka beberapa peluang besar untuk mengganggu bisnis besar dunia di setiap industri.

“Kami bekerja dengan beberapa perusahaan farmasi untuk menggunakan Claude untuk menulis studi klinis, dan mereka telah dapat mengurangi waktu yang diperlukan untuk menulis laporan studi klinis dari 12 minggu hingga tiga hari,” kata Amodei.

“Di luar biomedis, ada hukum, keuangan, asuransi, produktivitas, perangkat lunak, hal -hal di sekitar energi. Saya pikir akan ada – pada dasarnya – kebangkitan inovasi yang mengganggu di ruang aplikasi AI. Dan kami ingin membantu, kami ingin mendukung semuanya, ”pungkasnya.

Baca liputan lengkap kami KTT Aksi Kecerdasan Buatan di Paris.