Waduuh,.. Italia Resmi Blokir AI DeepSeek: Ada Apa dengan Data Pribadi Kita?

Namun, seiring dengan meningkatnya popularitas, masalah pun mulai bermunculan. DeepSeek menjadi target serangan siber berskala besar, yang membuat layanannya sempat terganggu.

Tak hanya itu, berbagai pihak juga mulai mempertanyakan kebijakan sensor DeepSeek yang diduga berpihak pada kepentingan pemerintah Tiongkok. Ada kekhawatiran bahwa AI ini bisa digunakan sebagai alat propaganda atau bahkan ancaman terhadap keamanan nasional negara lain.

Untuk meredam kekhawatiran ini, DeepSeek mengklaim telah melakukan perbaikan pada sistemnya pada 31 Januari. Tapi, apakah itu cukup untuk menghilangkan semua kecurigaan?

Ancaman Keamanan dari AI yang Rentan

Salah satu masalah terbesar yang dihadapi layanan AI seperti DeepSeek adalah kemampuannya untuk dieksploitasi. Banyak peretas yang berhasil menembus sistem keamanan AI ini dengan menggunakan teknik yang disebut "jailbreak".

Ada beberapa metode yang sering digunakan, seperti Crescendo, Bad Likert Judge, Deceptive Delight, Do Anything Now (DAN), hingga EvilBOT. Semua teknik ini memungkinkan AI memberikan informasi yang sebenarnya dilarang, seperti cara membuat bom Molotov atau kode untuk melakukan serangan siber.

Sebuah laporan dari Palo Alto Networks Unit 42 menemukan bahwa DeepSeek bisa dimanipulasi untuk memberikan instruksi detail mengenai serangan SQL Injection dan berbagai teknik peretasan lainnya.

Halaman Selanjutnya

Selain itu, penelitian dari HiddenLayer juga mengungkap bahwa model AI DeepSeek-R1 sangat rentan terhadap manipulasi. Bahkan, ada indikasi bahwa DeepSeek diam-diam menggunakan data dari OpenAI tanpa izin. Jika ini benar, maka bukan hanya masalah keamanan, tetapi juga bisa menjadi pelanggaran hukum dan etika.