서울대 학생 공동창업 AI 스타트업 에임인텔리전스, 세계 최정상 AI 학회서 논문 4편 동시 발표
서울대 학생 공동창업 '에임인텔리전스', ICML 및 ACL 2025 논문 4편 채택AI 모델의 안전성, 보안 취약점 분석 및 방어 기술 등 핵심 문제 해결 기여에임 연구 인턴 1기(대부분 학부생), 참여 3팀 전원 최정상 학회 논문 채택 (100% 합격률)AI 안전과 보안 스타트업 에임인텔리전스가 세계 최고 권위의 AI 학회인 ICML과 ACL에 총 4편의 논문이 동시 채택되는 쾌거를 이뤘다. 설립 10개월 만의 성과로, AI 안전 및 보안 분야에서 국제적인 연구 역량을 입증했다는 평가다. 에임인텔리전스는 유상윤 대표(서울대 전기정보공학부 석사 졸업), 박하언(서울대 컴퓨터공학부), 김하늘(연세대), 이의준(가천대 졸업) 4인이 공동 창업한 스타트업이다.에임인텔리전스는 짧은 기간 안에 메타 Llama 혁신상 (국내 유일), 국내 및 글로벌 대기업 고객 확보, 구글 포 스타트업 AI 퍼스트 배치 등 주목할 만한 성과를 거두며 빠르게 성장하고 있다.이번에 발표된 주요 연구는 다음과 같다:ELITE (ICML 2025): 비전언어모델(VLM)의 유해성을 정밀 평가하는 체계로, AI 응답의 숨은 위험까지 탐지한다. (서울대, 연세대, KIST, 숙명여대 공동 연구)M2S (ACL 2025 Main Track): 다중 턴 LLM 공격을 효율적인 단일 턴으로 압축하는 프레임워크로, 적은 비용으로 높은 공격 효과를 보였다. (서울시립대, KAIST, 서울대, 연세대, KIST 공동 연구)SUDO (ACL 2025 Industry Track): AI 에이전트의 보안 취약성을 실증한 공격 프레임워크로, AI 에이전트의 거절 명령 우회 가능성을 입증했다. (서울대, 연세대 공동 연구)REPBEND (ACL 2025 Main Track): LLM 내부의 유해 표현을 교란시켜 안전성을 높이는 기법으로, 공격 성공률을 크게 낮추면서도 사용성은 유지했다. (서울대, 연세대, UMichigan, Stanford, Amazon AWS 공동 연구)특히, 이 중 3편의 논문(ELITE, M2S, SUDO)은 '에임인텔리전스 연구 인턴 1기' 프로그램에 참여한 인턴(대부분 학부생)들이 주도하여 얻은 성과다. 총 6명의 인턴이 3개 팀으로 연구를 진행, 모든 팀이 논문 채택에 성공률 100%의 성과로 뛰어난 역량을 입증했다.에임인텔리전스 박하언 CTO는 "서울대에서 경험이 큰 밑거름이 되었고, 에임 인턴십을 통해 인턴분들이 큰 성과를 내서 매우 자랑스럽다"며, "앞으로 이미지/비디오 생성, 에이전트, 로봇, 의료 및 국방 AI 등 다양한 분야의 AI 안전 기술을 지속적으로 연구 개발하겠다"고 밝혔다.[논문 정보]"ELITE: Enhanced Language-Image Toxicity Evaluation for Safety", Wonjun Lee*, Doehyeon Lee*, Eugene Choi, Sangyoon Yu, Ashkan Yousefpour, Haon Park, Bumsub Ham, Suhyun Kim, ICML 2025."SUDO: Screen-based Universal Detox2Tox Offense for Large Agent Models", Sejin Lee*, Jian Kim*, Haon Park, Ashkan Yousefpour, Sangyoon Yu, Min Song, ACL 2025 Industry Track. "One-Shot is Enough: Consolidating Multi-Turn Attacks into Efficient Single-Turn Prompts for LLMs", Junwoo Ha*, Hyunjun Kim*, Sangyoon Yu, Haon Park, Ashkan Yousefpour, Yuna Park, Suhyun Kim, ACL 2025. "Representation Bending for Large Language Model Safety", Ashkan Yousefpour*, Taeheon Kim*, Ryan S. Kwon, Seungbeen Lee, Wonje Jeung, Seungju Han, Alvin Wan†, Harrison Ngan, Youngjae Yu, R Jonghyun Choi, ACL 2025....