취약점 자동 탐지 및 차단∙방어 기술 가드레일 접목 예정
[한국M&A경제] 생성형 인공지능(AI) 보안 기술 스타트업 에임인텔리전스(대표 유상윤)가 KT와 ‘AI 기반 모델의 보안∙안전(Security and Safety) 검증 체계 기술 공동 연구 및 위협 대응 기술 구축’을 위한 업무협약(MOU)을 체결했다고 3일 밝혔다.
양사는 KT 판교빌딩에서 업무 협약식을 체결했다. ▲생성형 AI 기반 모델의 보안∙안전 검증 체계 기술 공동 연구 ▲식별된 취약성을 해소할 수 있는 모델 방어 및 강화 기술 개발 ▲사이버 보안 위협 대응 및 안전한 생성형 AI 모델 보급 추진 등의 분야에서 상호 협력하기로 합의했다.
에임인텔리전스는 안전한 생성형 AI 모델 보급 추진을 위해 생성형 AI 안전 진단 레드티밍을 제공하고, 취약점 자동 탐지 및 차단∙방어 기술 가드레일을 접목할 것이라고 밝혔다.
생성형 AI ‘레드팀’(RedTeam)은 통제된 환경에서 적대적 방법을 사용해 AI 시스템의 유해하거나 차별적인 결과, 시스템 오용 등 결함과 취약성을 식별하기 위한 구조화된 테스트 활동을 의미한다. 오픈AI, 구글, 네이버클라우드 등 국내∙외 AI 기업도 자체 AI 레드팀을 구성∙운영하는 등 AI 기업이 AI 안전∙신뢰성을 확보할 수 있는 핵심적인 방법으로 주목받고 있다.
에임인텔리전스 레드팀은 지난 4월 과학기술정보통신부(장관 이종호)와 한국정보통신기술협회(회장 손승현)가 주최한 ‘생성형 AI 레드팀 챌린지’ 수상자로 구성돼 있다.
양사는 이번 협약을 통해 생성형 AI 안전성 및 보안을 위한 다양한 활동을 전개한다. 에임인텔리전스와 KT 레드팀 상호 간 협업을 통해 생성형 AI 모델의 안전성 평가 기준인 벤치마크를 공동 개발할 예정이다.
KT 정보보호 최고 책임자(CISO) 황태선은 “이번 에임인텔리전스와의 업무협약을 통해 생성형 AI 상용화를 위한 안전성을 공고히 할 수 있었다”며 “안전한 생성형 AI 모델 보급을 위해 양사 협력에 최선을 다할 것”이라고 말했다.
에임인텔리전스 유상윤 대표는 “생성형 AI 상용화에 가장 큰 병목은 안전성과 보안”이라며 “누구나 믿고 사용할 수 있는 안전한 생성형 AI 서비스를 제공할 수 있도록 KT와 함께 노력하겠다”고 밝혔다.
한편 에임인텔리전스는 지난 30일 기존의 사람이 진행하던 생성형 AI 보안 진단 레드티밍 과정을 자동화하는 솔루션 ‘에임레드’(AIM Red)와, 진단한 취약점을 자동 탐지∙차단하는 가드레일 ‘에임가드’(AIM Guard)를 출시했다.
서울대학교 전기·정보공학부 연구실에서 시작한 에임인텔리전스는 네이버투자회사 D2 스타트업 팩토리를 거쳐 생성형 AI 보안을 위한 원천 기술을 연구·개발해왔다. 유상윤 대표는 다가오는 범용 인공지능(AGI)을 위한 보안 기술을 고도화할 것이라고 밝혔다.
[한국M&A경제=이용준 기자] news@kmnanews.com
