4 Prinsip Keamanan AI Agentic ala AWS

Amazon Web Services (AWS) telah merumuskan empat prinsip utama untuk mengamankan sistem kecerdasan buatan otonom (agentic AI). Berbeda dari AI generatif konvensional, AI agentic menggunakan Large Language Models (LLM) yang terhubung langsung ke API dan basis data, memungkinkan sistem untuk merencanakan dan mengeksekusi tindakan secara otonom. Namun, hal ini juga menimbulkan risiko baru, di mana tindakan tak terduga dapat terjadi sebelum intervensi manusia. AWS menegaskan bahwa keamanan AI agentic tidak memerlukan paradigma baru, melainkan merupakan perluasan dari kerangka kerja keamanan tradisional. Menurut Bryce Boland, Head of Security Solution Architecture AWS untuk kawasan APJ, otonomi harus dievaluasi secara progresif untuk memastikan performa yang konsisten. Prinsip-prinsip ini diintegrasikan ke dalam kerangka kerja Amazon Bedrock AgentCore.