Gary Marcus dan Pandangannya tentang Regulasi dan Masa Depan AI

Gary Marcus adalah seorang pakar AI, penulis, dan pengkritik terkemuka di bidang kecerdasan buatan. Sebagai pendiri Geometric Intelligence, yang kemudian diakuisisi oleh Uber, Marcus telah lama menyoroti berbagai tantangan dan peluang dalam pengembangan teknologi AI. Dalam berbagai kesempatan, ia menekankan perlunya regulasi, pendekatan hibrida, dan pengembangan AI yang bertanggung jawab. Artikel ini mengupas pandangan Marcus tentang regulasi AI, kritik terhadap model bahasa besar (Large Language Models atau LLM), serta ide-idenya untuk menciptakan masa depan AI yang lebih aman dan efektif.

---

Pandangan tentang Regulasi AI

Gary Marcus percaya bahwa regulasi AI harus menjadi prioritas utama untuk memastikan teknologi ini berkembang secara aman, etis, dan bertanggung jawab. Berikut adalah poin-poin utama dari pandangannya:

1. Keselamatan dan Transparansi: Marcus menekankan pentingnya memastikan bahwa AI tidak hanya aman untuk digunakan, tetapi juga transparan. Ia mengkritik model black box yang sulit diaudit dan mendukung regulasi yang mengharuskan setiap sistem AI dapat dipahami dan dijelaskan oleh pengembangnya.
2. Kolaborasi Global: Mengingat dampak AI yang melintasi batas negara, Marcus percaya bahwa regulasi harus bersifat global. Ia mendorong pemerintah, organisasi internasional, dan perusahaan teknologi untuk bekerja sama dalam menciptakan kerangka regulasi yang universal.
3. Pengujian dan Sertifikasi: Marcus mengusulkan adanya standar pengujian dan sertifikasi untuk memastikan bahwa sistem AI aman sebelum dirilis ke masyarakat. Pendekatan ini mirip dengan standar keselamatan yang berlaku di industri otomotif atau farmasi.
4. Mengatasi Hype AI: Ia sering memperingatkan agar masyarakat tidak terjebak dalam klaim yang dibesar-besarkan tentang kemampuan AI. Regulasi harus berdasarkan fakta ilmiah, bukan janji komersial yang berlebihan.

---

Kritik terhadap Large Language Models (LLM)

Marcus juga dikenal sebagai salah satu pengkritik utama LLM, seperti GPT dan BERT. Meski mengakui potensi mereka dalam berbagai aplikasi, ia menyoroti sejumlah kelemahan mendasar:

1. Kurangnya Pemahaman Semantik: LLM tidak memiliki pemahaman yang sebenarnya tentang bahasa atau dunia. Model ini hanya memproses pola dalam data pelatihan tanpa memahami maknanya, sehingga rentan menghasilkan informasi yang salah.
2. Ketergantungan pada Data Pelatihan: Marcus mengkritik ketergantungan LLM pada data pelatihan besar yang sering mengandung bias atau kesalahan. Akibatnya, model ini dapat mereplikasi dan memperkuat bias dalam data tersebut.
3. **Pendekatan Black Box:
   Ia menyayangkan bahwa cara kerja LLM sering kali tidak transparan, sehingga sulit untuk memahami bagaimana model mengambil keputusan.
4. Kurangnya Akal Sehat dan Logika: LLM tidak memiliki akal sehat (common sense) atau kemampuan untuk melakukan penalaran logis yang konsisten. Meskipun terlihat cerdas, mereka sering gagal dalam tugas yang membutuhkan pemahaman mendalam atau penalaran kompleks.
5. Keamanan dan Etika: Marcus memperingatkan potensi penyalahgunaan LLM untuk menciptakan informasi palsu, propaganda, atau mendukung aktivitas ilegal. Ia menekankan pentingnya pengawasan untuk mencegah dampak negatif ini.

---

Ide-Ide untuk Masa Depan AI

Gary Marcus menawarkan berbagai ide untuk memperbaiki pendekatan pengembangan AI saat ini. Ide-idenya meliputi:

1. Pendekatan Hybrid: Marcus mendorong kombinasi antara pembelajaran mesin berbasis data dan sistem simbolik berbasis aturan. Pendekatan ini diyakini dapat mengatasi keterbatasan model berbasis data murni dalam memahami logika dan konteks.
2. Membangun AI dengan Akal Sehat: Salah satu kelemahan terbesar AI saat ini adalah kurangnya akal sehat. Marcus mengusulkan pembangunan basis pengetahuan berbasis simbolik yang dapat membantu AI memahami dunia secara lebih baik.
3. Transparansi dan Auditabilitas: Ia menyerukan pengembangan AI yang lebih transparan, di mana setiap langkah pengambilan keputusan dapat dijelaskan. Ini penting untuk meningkatkan kepercayaan masyarakat terhadap teknologi AI.
4. Pengujian dan Validasi yang Ketat: Marcus menyarankan penggunaan metode pengujian ketat untuk memastikan bahwa AI mampu menangani situasi dunia nyata sebelum diterapkan secara luas.
5. Regulasi dan Pengawasan Global: Untuk menghindari potensi risiko, Marcus percaya bahwa AI membutuhkan regulasi global yang mengikat. Lembaga internasional dapat berperan dalam memastikan pengembangan AI yang aman dan etis.
6. Fokus pada Masalah Nyata: Marcus mengkritik fokus berlebihan pada hype teknologi dan mendorong pengembangan AI yang menyelesaikan masalah nyata dengan cara yang bertanggung jawab.

---

Kesimpulan

Gary Marcus memberikan perspektif yang sangat diperlukan dalam diskusi tentang AI. Pandangannya menekankan keseimbangan antara inovasi dan tanggung jawab, dengan fokus pada transparansi, keamanan, dan pemahaman mendalam. Dalam dunia yang semakin didominasi oleh teknologi AI, ide-ide Marcus menjadi panduan penting untuk memastikan bahwa AI tidak hanya canggih secara teknis tetapi juga bermanfaat dan aman bagi masyarakat.