과학기술정보통신부(부총리 겸 장관 배경훈, 이하 ‘과기정통부’)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 오는 10월 28일(화)부터 29일(수)까지 서울 호텔 나루 엠갤러리에서 열린다. 

이번 포럼은 “보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)”을 주제로, 국내외 학계·산업계·정부 관계자 등 약 150명의 전문가들이 참여해 인공지능 안전 거버넌스, 평가, 레드티밍(Red Teaming)*의 현황을 점검하고 국제 협력 방향을 논의한다.
 

* 레드티밍(Red Teaming): 모의 공격을 통해 AI 모델의 취약점, 편향, 악용 가능성을 검증하고, 잠재적 위험 요인을 선제적으로 식별·개선하는 과정으로, AI 안전 관리의 핵심 절차로 자리 잡고 있다.

주요 프로그램

첫째 날(10월 28일)에는 AI 안전 확보를 위한 각국 인공지능안전연구소의 활동과 프론티어 AI 모델 개발 기관의 노력, 그리고 AI 평가 전문기관의 체계 및 방법론이 소개된다.
일본, 싱가포르, 유럽연합(EU) 등 각국 인공지능안전연구소(AISI) 소장 등 주요 리더들이 참석하여 각 기관의 성과와 향후 계획을 공유하고, 국제 협력의 실질적 방안을 모색한다.

또한 LG AI연구원, 네이버클라우드, 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 국내외 주요 AI 기관이 참여해 AI 모델 안전성 확보와 평가 체계에 대해 심도 있는 논의를 진행한다.

이어지는 ‘Korea AISI 대화 세션’에서는 한국 인공지능안전연구소 실무 책임자들이 한국의 AI 안전 평가, 정책, 연구 추진 방향을 공유한다.

둘째 날(10월 29일)에는
AI 안전 평가 방법론을 주제로 하는 기술 중심 워크숍이 열린다.
MLCommons, METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드대학교(Oxford University) 등 세계 주요 AI 평가기관과 연구자들이 연사로 참여해 최신 연구와 평가 기술을 발표한다.

이날 워크숍에서는 프론티어 AI 모델을 대상으로 한 실습형 레드티밍 세션도 진행된다.
특히 한국 인공지능안전연구소와 미국 스케일 AI(Scale AI) 간 업무협약(MOU) 체결을 통해 AI 안전 연구 및 평가 협력의 글로벌 기반을 한층 강화할 예정이다.

이번 포럼은 AI 시스템의 위험을 식별·평가·완화하기 위한 기술적 접근 방안을 모색하고, 국가 간 AI 안전 거버넌스 협력체계를 공고히 하는 국제적 논의의 장을 한국이 주도적으로 마련했다는 점에서 큰 의미가 있다.    /심상우 기자

행사 개요

• 행사명: 2025 인공지능 안전 서울 포럼 (2025 Seoul Forum on AI Safety & Security, SFASS)

• 주제: 보다 안전한 AI 세상을 향한 글로벌 협력 (Global Cooperation for a Safer AI Future)

• 일정: 2025년 10월 28일(화) ~ 10월 29일(수)

• 장소: 호텔 나루 서울 엠갤러리 (나루볼룸)

• 주최 / 주관: 과학기술정보통신부 / 한국전자통신연구원 인공지능안전연구소

• 공식 웹사이트: https://aisafety.ai.kr