- 서울대 학생 공동창업 '에임인텔리전스', ICML 및 ACL 2025 논문 4편 채택
- AI 모델의 안전성, 보안 취약점 분석 및 방어 기술 등 핵심 문제 해결 기여
- 에임 연구 인턴 1기(대부분 학부생), 참여 3팀 전원 최정상 학회 논문 채택 (100% 합격률)
AI 안전과 보안 스타트업 에임인텔리전스가 세계 최고 권위의 AI 학회인 ICML과 ACL에 총 4편의 논문이 동시 채택되는 쾌거를 이뤘다. 설립 10개월 만의 성과로, AI 안전 및 보안 분야에서 국제적인 연구 역량을 입증했다는 평가다. 에임인텔리전스는 유상윤 대표(서울대 전기정보공학부 석사 졸업), 박하언(서울대 컴퓨터공학부), 김하늘(연세대), 이의준(가천대 졸업) 4인이 공동 창업한 스타트업이다.
에임인텔리전스는 짧은 기간 안에 메타 Llama 혁신상 (국내 유일), 국내 및 글로벌 대기업 고객 확보, 구글 포 스타트업 AI 퍼스트 배치 등 주목할 만한 성과를 거두며 빠르게 성장하고 있다.
이번에 발표된 주요 연구는 다음과 같다:
ELITE (ICML 2025): 비전언어모델(VLM)의 유해성을 정밀 평가하는 체계로, AI 응답의 숨은 위험까지 탐지한다. (서울대, 연세대, KIST, 숙명여대 공동 연구)
M2S (ACL 2025 Main Track): 다중 턴 LLM 공격을 효율적인 단일 턴으로 압축하는 프레임워크로, 적은 비용으로 높은 공격 효과를 보였다. (서울시립대, KAIST, 서울대, 연세대, KIST 공동 연구)
SUDO (ACL 2025 Industry Track): AI 에이전트의 보안 취약성을 실증한 공격 프레임워크로, AI 에이전트의 거절 명령 우회 가능성을 입증했다. (서울대, 연세대 공동 연구)
REPBEND (ACL 2025 Main Track): LLM 내부의 유해 표현을 교란시켜 안전성을 높이는 기법으로, 공격 성공률을 크게 낮추면서도 사용성은 유지했다. (서울대, 연세대, UMichigan, Stanford, Amazon AWS 공동 연구)
특히, 이 중 3편의 논문(ELITE, M2S, SUDO)은 '에임인텔리전스 연구 인턴 1기' 프로그램에 참여한 인턴(대부분 학부생)들이 주도하여 얻은 성과다. 총 6명의 인턴이 3개 팀으로 연구를 진행, 모든 팀이 논문 채택에 성공률 100%의 성과로 뛰어난 역량을 입증했다.
에임인텔리전스 박하언 CTO는 "서울대에서 경험이 큰 밑거름이 되었고, 에임 인턴십을 통해 인턴분들이 큰 성과를 내서 매우 자랑스럽다"며, "앞으로 이미지/비디오 생성, 에이전트, 로봇, 의료 및 국방 AI 등 다양한 분야의 AI 안전 기술을 지속적으로 연구 개발하겠다"고 밝혔다.
[논문 정보]
"ELITE: Enhanced Language-Image Toxicity Evaluation for Safety", Wonjun Lee*, Doehyeon Lee*, Eugene Choi, Sangyoon Yu, Ashkan Yousefpour, Haon Park, Bumsub Ham, Suhyun Kim, ICML 2025.
"SUDO: Screen-based Universal Detox2Tox Offense for Large Agent Models", Sejin Lee*, Jian Kim*, Haon Park, Ashkan Yousefpour, Sangyoon Yu, Min Song, ACL 2025 Industry Track.
- "One-Shot is Enough: Consolidating Multi-Turn Attacks into Efficient Single-Turn Prompts for LLMs", Junwoo Ha*, Hyunjun Kim*, Sangyoon Yu, Haon Park, Ashkan Yousefpour, Yuna Park, Suhyun Kim, ACL 2025.
- "Representation Bending for Large Language Model Safety", Ashkan Yousefpour*, Taeheon Kim*, Ryan S. Kwon, Seungbeen Lee, Wonje Jeung, Seungju Han, Alvin Wan†, Harrison Ngan, Youngjae Yu, R Jonghyun Choi, ACL 2025.