Waduuh,.. Italia Resmi Blokir AI DeepSeek: Ada Apa dengan Data Pribadi Kita?

Selain itu, penelitian dari HiddenLayer juga mengungkap bahwa model AI DeepSeek-R1 sangat rentan terhadap manipulasi. Bahkan, ada indikasi bahwa DeepSeek diam-diam menggunakan data dari OpenAI tanpa izin. Jika ini benar, maka bukan hanya masalah keamanan, tetapi juga bisa menjadi pelanggaran hukum dan etika.

Bukan Hanya DeepSeek, AI Lain Juga Bermasalah

DeepSeek bukan satu-satunya AI yang menghadapi masalah keamanan dan etika. Dalam beberapa bulan terakhir, beberapa model AI populer lainnya juga ditemukan memiliki celah keamanan yang cukup serius.

Misalnya, ChatGPT-4o dari OpenAI memiliki celah yang disebut "Time Bandit". Dengan trik tertentu, chatbot ini bisa kehilangan kesadaran temporalnya dan memberikan jawaban yang berbahaya.

Alibaba juga punya masalah serupa dengan model AI mereka, Qwen 2.5-VL, yang diketahui memiliki celah keamanan yang bisa dimanfaatkan untuk melewati batasan keamanan.

Sementara itu, GitHub Copilot—yang sering digunakan oleh programmer—ternyata juga bisa dimanipulasi dengan sangat mudah. Cukup dengan memasukkan kata "Sure" di awal perintah, sistem AI ini bisa dibuat lebih patuh terhadap permintaan yang sebenarnya melanggar aturan.

Peneliti dari Apex Research bahkan menemukan cara untuk melewati batasan berbayar GitHub Copilot hanya dengan memanipulasi token autentikasi. Ini menunjukkan bahwa bahkan AI yang dianggap aman pun masih bisa dieksploitasi dengan trik sederhana.

Halaman Selanjutnya

Apa Artinya untuk Kita?