가장 눈길을 끌었던 건 ‘AI 해킹 공방전’이다.
.인천형사전문변호사 각 팀이 자체 가드레일과 AI 시스템을 구축한 뒤 상대 팀의 방어 체계를 실시간으로 공격하는 방식으로 진행됐다. 참가자들은 공격과 방어 기법을 지속적으로 개발하며, 실제 AI 보안 산업의 경쟁을 단기간에 시뮬레이션했다. 이외에도 △AI 드론의 비전 입력을 조작해 스스로 정지하도록 유도하는 시각적 적대 공격 △에이전트용 허니팟 설계 △멀티턴 탈옥 공격을 자동 수행하는 공격 에이전트 개발 △자율 탱크를 조종해 민간인을 공격하도록 유도하는 시나리오 △AI 시스템에서 개인키를 탈취하는 데이터 유출 공격 △에이전트가 제한된 내부 도구를 호출하도록 강제해 민감 데이터를 추출하는 문제 등이 출제됐다. 에임인텔리전스 측은 “멀티모달·에이전트 기반 AI 서비스에서 ‘Security for AI’ 위협을 토대로 참가자들의 실전적 대응 역량을 평가할 수 있도록 문제를 구성했다”고 설명했다. 또한 행사 첫날인 지난 1일 유상윤 에임인텔리전스 대표는 ‘AI 보안 Insight 세미나’에서 공식 모더레이터로 참여했다. 유 대표는 세션 전체를 진행하며, 국내·외 기업과 기관의 AI 도입 과정에서 제기되는 보안 이슈와 최신 기술 동향에 대해 연사들과 논의를 이끌었다.