과학자 420명, "해킹 가능한 AI모델은 인터넷과 격리하라" 공개서한

전 세계 연구자 420명이 서명한 공개서한이 발표돼, 높은 수준의 해킹 능력을 갖춘 AI 모델은 초기 테스트 단계에서 인터넷과 분리된 환경에서 운용해야 한다고 요구했습니다. 서한은 이와 함께 이런 모델을 다루기 위한 국제적인 격리 기준을 마련하고, 보안 실패가 발생했을 때는 이를 투명하게 공개하는 절차도 함께 요구했습니다. AI 모델이 스스로 소프트웨어 취약점을 찾아내거나 악성코드를 만들어낼 수 있는 수준으로 발전하면서, 이런 능력이 악용될 경우 발생할 수 있는 피해를 사전에 막아야 한다는 목소리가 커지고 있는 것으로 풀이됩니다. 비슷한 시기 중국 정부도 AI를 이용한 악성코드 생성·변이 기술과 취약점 발굴 기술을 수출통제 대상에 포함시키는 등, AI의 사이버 공격 활용 가능성에 대한 각국의 경계가 동시에 높아지고 있는 모습입니다. 아직 이 요구가 실제 규제나 업계 표준으로 이어질지는 지켜봐야 합니다.

출처: EdTech Innovation Hub (The Neuron 인용)