Anthropic Ungkap Penyalahgunaan Claude, Sorot Ancaman Senjata Biologis

Perusahaan AI Anthropic melaporkan penyalahgunaan model AI mereka, Claude, yang digunakan untuk serangan siber dan riset senjata biologis. Mereka telah memblokir berbagai upaya penyalahgunaan dan menambahkan sistem keamanan ketat untuk mencegah penelitian yang dapat disalahgunakan. Dalam laporan tersebut, Anthropic menyoroti risiko yang ditimbulkan oleh teknologi AI yang semakin canggih, serta menyerukan kolaborasi pemerintah dan perusahaan lain untuk mencegah penyalahgunaan. Beberapa kasus mencakup upaya modifikasi genetik virus Chikungunya untuk tujuan berbahaya. Meskipun telah mengambil langkah-langkah pengamanan, Anthropic mengakui bahwa model-model sebelumnya masih dapat menimbulkan risiko yang signifikan.