‘The Godfather of AI’ Meninggalkan Google dan memperingatkan bahaya di depan.
Womenpedia.id – Hinton, seorang ekspatriat Inggris berusia 75 tahun, adalah seorang akademisi seumur hidup yang kariernya didorong oleh keyakinan pribadinya tentang pengembangan dan penggunaan AI.
Geoffrey Hinton adalah pelopor kecerdasan buatan. Pada tahun 2012, Hinton dan dua mahasiswa pascasarjananya di University of Toronto menciptakan teknologi yang menjadi landasan intelektual untuk sistem AI yang diyakini oleh perusahaan terbesar di industri teknologi sebagai kunci masa depan mereka dan ia diberi julukan sebagai “The Godfather of AI”.
Namun, pada hari Senin, dia secara resmi bergabung dengan semakin banyak kritik yang mengatakan bahwa perusahaan-perusahaan itu berlomba menuju bahaya dengan kampanye agresif mereka untuk menciptakan produk berdasarkan AI generatif, teknologi yang menggerakkan chatbot populer seperti ChatGPT.
The Godfather of AI Meninggalkan Google
Hinton sebagai “The Godfather of AI” mengatakan dia telah berhenti dari pekerjaannya di Google, di mana dia telah bekerja selama lebih dari satu dekade dan menjadi salah satu suara yang paling dihormati di lapangan, sehingga dia dapat dengan bebas berbicara tentang risiko AI. Sebagian dari dirinya, katanya, sekarang menyesali pekerjaan seumur hidupnya.
“Saya menghibur diri dengan alasan normal: Jika saya tidak melakukannya, orang lain akan melakukannya,” kata Hinton sebagai The Godfather of AI dalam wawancara panjang minggu lalu di ruang makan rumahnya di Toronto, tidak jauh dari tempat dia dan murid-muridnya. membuat terobosan mereka.
Perjalanan Hinton dari pelopor AI menjadi doomsayer menandai momen luar biasa bagi industri teknologi yang mungkin merupakan titik belok paling penting dalam beberapa dekade. Para pemimpin industri percaya bahwa sistem AI baru bisa sama pentingnya dengan pengenalan browser web pada awal 1990-an dan dapat menyebabkan terobosan di berbagai bidang mulai dari penelitian obat hingga pendidikan.
Tapi menggerogoti banyak orang dalam industri adalah ketakutan bahwa mereka melepaskan sesuatu yang berbahaya ke alam liar. AI generatif sudah bisa menjadi alat untuk informasi yang salah. Segera, itu bisa menjadi risiko pekerjaan. Di suatu tempat di masa depan, kata orang yang paling mengkhawatirkan teknologi, ini bisa menjadi risiko bagi umat manusia.
“Sulit untuk melihat bagaimana Anda dapat mencegah aktor jahat menggunakannya untuk hal-hal buruk,” kata sang The Godfather of AI.
Setelah startup San Francisco OpenAI merilis versi baru ChatGPT pada bulan Maret, lebih dari 1.000 pemimpin teknologi dan peneliti menandatangani surat terbuka yang menyerukan moratorium enam bulan pada pengembangan sistem baru karena teknologi AI menimbulkan “risiko besar bagi masyarakat dan kemanusiaan. .”
Beberapa hari kemudian, 19 pemimpin dan mantan pemimpin Asosiasi untuk Kemajuan Kecerdasan Buatan, sebuah komunitas akademik berusia 40 tahun, mengeluarkan surat peringatan mereka sendiri tentang risiko AI. Kelompok itu termasuk Eric Horvitz, kepala ilmuwan di Microsoft, yang telah menggunakan teknologi OpenAI di berbagai produk, termasuk mesin pencari Bing.
Hinton, sering disebut “The Godfather of AI,” tidak menandatangani salah satu dari surat-surat itu dan mengatakan dia tidak ingin mengkritik Google atau perusahaan lain secara terbuka sampai dia berhenti dari pekerjaannya. Dia memberi tahu perusahaan bulan lalu bahwa dia mengundurkan diri, dan Kamis, dia berbicara melalui telepon dengan Sundar Pichai, CEO perusahaan induk Google, Alphabet. Dia menolak untuk secara terbuka membahas detail percakapannya dengan Pichai.
Kepala ilmuwan Google, Jeff Dean, mengatakan dalam sebuah pernyataan: “Kami tetap berkomitmen pada pendekatan AI yang bertanggung jawab. Kami terus belajar untuk memahami risiko yang muncul sambil berinovasi dengan berani.”
Hinton sebagai The Godfather of AI juga seorang ekspatriat Inggris berusia 75 tahun, adalah seorang akademisi seumur hidup yang kariernya didorong oleh keyakinan pribadinya tentang pengembangan dan penggunaan AI. Pada tahun 1972, sebagai mahasiswa pascasarjana di Universitas Edinburgh, Hinton menganut ide yang disebut jaringan saraf. Jaringan saraf adalah sistem matematika yang mempelajari keterampilan dengan menganalisis data. Pada saat itu, hanya sedikit peneliti yang mempercayai gagasan tersebut. Tapi itu menjadi pekerjaan hidupnya.
Pada 1980-an, The Godfather of AI ini adalah seorang profesor ilmu komputer di Universitas Carnegie Mellon tetapi meninggalkan universitas tersebut ke Kanada karena dia mengatakan enggan menerima pendanaan Pentagon. Saat itu, sebagian besar penelitian AI di Amerika Serikat didanai oleh Departemen Pertahanan. Hinton sangat menentang penggunaan AI di medan perang yang dia sebut sebagai “tentara robot”.
Pada tahun 2012, Hinton dan dua muridnya di Toronto, Ilya Sutskever dan Alex Krishevsky, membangun jaringan saraf yang dapat menganalisis ribuan foto dan belajar sendiri untuk mengidentifikasi objek umum, seperti bunga, anjing, dan mobil.
Google menghabiskan $44 juta untuk mengakuisisi sebuah perusahaan yang dimulai oleh Hinton dan dua muridnya. Dan sistem mereka mengarah pada penciptaan teknologi yang semakin kuat, termasuk chatbot baru seperti ChatGPT dan Google Bard. Sutskever kemudian menjadi kepala ilmuwan di OpenAI. Pada tahun 2018, Hinton dan dua kolaborator lama lainnya menerima Penghargaan Turing, yang sering disebut “Hadiah Nobel Komputasi”, untuk pekerjaan mereka di jaringan saraf.
Sekitar waktu yang sama, Google, OpenAI, dan perusahaan lain mulai membangun jaringan saraf yang belajar dari sejumlah besar teks digital. Hinton mengira itu adalah cara yang ampuh bagi mesin untuk memahami dan menghasilkan bahasa, tetapi itu lebih rendah daripada cara manusia menangani bahasa.
Kemudian, tahun lalu, saat Google dan OpenAI membangun sistem menggunakan data dalam jumlah yang jauh lebih besar, pandangannya berubah. Dia masih percaya bahwa sistem itu lebih rendah dari otak manusia dalam beberapa hal, tetapi dia pikir mereka melampaui kecerdasan manusia pada orang lain. “Mungkin apa yang terjadi dalam sistem ini,” katanya, “sebenarnya jauh lebih baik daripada apa yang terjadi di otak.”
Saat perusahaan meningkatkan sistem AI mereka, dia yakin, mereka menjadi semakin berbahaya. “Lihatlah bagaimana lima tahun lalu dan sekarang,” katanya tentang teknologi AI. “Ambil perbedaannya dan sebarkan ke depan. Itu menakutkan.”
Hingga tahun lalu, katanya, Google bertindak sebagai “pelayan yang tepat” untuk teknologi tersebut, berhati-hati untuk tidak merilis sesuatu yang dapat membahayakan. Tapi sekarang Microsoft telah menambah mesin pencari Bing dengan chatbot – menantang bisnis inti Google – Google berlomba untuk menggunakan jenis teknologi yang sama. Raksasa teknologi terkunci dalam persaingan yang mungkin tidak mungkin dihentikan, kata The Godfather of AI.
Kekhawatiran langsungnya adalah bahwa internet akan dibanjiri dengan foto, video, dan teks palsu, dan rata-rata orang “tidak akan dapat lagi mengetahui apa yang benar”.
Dia juga khawatir bahwa teknologi AI pada waktunya akan menjungkirbalikkan pasar kerja. Saat ini, chatbot seperti ChatGPT cenderung melengkapi pekerja manusia, tetapi mereka dapat menggantikan paralegal, asisten pribadi, penerjemah, dan lainnya yang menangani tugas hafalan. “Ini menghilangkan pekerjaan yang membosankan,” katanya. “Mungkin butuh lebih dari itu.”
Di ujung jalan, dia khawatir bahwa versi teknologi masa depan menimbulkan ancaman bagi umat manusia karena mereka sering mempelajari perilaku tak terduga dari sejumlah besar data yang mereka analisis. Ini menjadi masalah, katanya, karena individu dan perusahaan memungkinkan sistem AI tidak hanya menghasilkan kode komputer mereka sendiri tetapi sebenarnya menjalankan kode itu sendiri. Dan dia takut suatu hari ketika senjata yang benar-benar otonom — robot pembunuh itu — menjadi kenyataan.
“Gagasan bahwa barang ini sebenarnya bisa menjadi lebih pintar daripada orang – beberapa orang percaya itu,” katanya. “Tapi kebanyakan orang berpikir itu jauh. Dan saya pikir itu jauh. Saya pikir itu 30 sampai 50 tahun atau bahkan lebih lama lagi. Jelas, saya tidak lagi memikirkan itu.
Banyak ahli lain, termasuk banyak murid dan koleganya, mengatakan bahwa ancaman ini bersifat hipotetis. Namun Hinton percaya bahwa perlombaan antara Google dan Microsoft dan lainnya akan meningkat menjadi perlombaan global yang tidak akan berhenti tanpa semacam peraturan global.
Tapi itu mungkin tidak mungkin, katanya. Berbeda dengan senjata nuklir, katanya, tidak ada cara untuk mengetahui apakah perusahaan atau negara sedang mengerjakan teknologi tersebut secara rahasia. Harapan terbaik adalah agar para ilmuwan terkemuka dunia berkolaborasi dalam cara-cara mengendalikan teknologi. “Saya tidak berpikir mereka harus meningkatkan ini sampai mereka mengerti apakah mereka bisa mengendalikannya,” katanya.
Hinton mengatakan bahwa ketika orang bertanya kepadanya bagaimana dia bisa bekerja pada teknologi yang berpotensi berbahaya, dia akan memparafrasekan Robert Oppenheimer, yang memimpin upaya AS untuk membuat bom atom: “Ketika Anda melihat sesuatu yang secara teknis manis, Anda teruskan. dan lakukanlah.”
