주요사업 > 사업분류 > 기술개발 > 공존가능한신뢰AI를위한AISafety기술개발(신규) > 사업소개

○

사업개요

지속가능한 AI 혁신의 전제인 ‘AI Safety’ 확보를 위해 고성능‧다양성‧자율성을 갖춘 첨단 AI의 실존‧잠재위험을 완화‧제거하기 위한 핵심기술 개발

- AI 혁신경쟁의 핵심으로 AI 신뢰‧안전이 더욱 부각되는 상황에서, 국내 AI 산업의 지속가능한 혁신을 뒷받침하고, 공존 가능한 AI 기반이 마련될 수 있도록 신뢰‧안전 원천기술 선제적 확보 필요

○

2025년 중점 추진방향

생성형 AI의 실존적 위험, 근미래 멀티모달 및 AGI 기술 잠재적 위험에 선제적으로 대응하기 위한 편향성 자가 정립‧정렬(alignment)‧안티-딥페이크 프레임워크‧회복탄력성 기술 개발