[본문 전체보기]
페이스북(으)로 기사보내기 트위터(으)로 기사보내기 카카오스토리(으)로 기사보내기 URL복사(으)로 기사보내기 텔레그램(으)로 기사보내기 링크드인(으)로 기사보내기 이메일(으)로 기사보내기 다른 공유 찾기 기사스크랩하기
- 자체 개발 AI 플랫폼 ‘NEXUS’로 중소기업·소상공인 대상 AI 전환 지원 본격화
- AI 교육·컨설팅·플랫폼 원스톱 패키지 제공… 최대 2억원 정부 바우처 활용 가능
KT의 통신상품 유통 전문 그룹사 kt m&s(대표이사 최찬기)가 ‘2026 AI바우처 지원사업’의 공급기업으로 공식 선정되면서 kt m&s의 자체 개발 AI 플랫폼 ‘NEXUS’를 통해 중소기업과 소상공인의 AI 전환을 본격 지원한다.
‘AI바우처 지원사업’은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 주관하는 사업으로, 중소기업과 소상공인이 AI 솔루션 도입에 발생하는 비용 부담을 정부가 지원하는 제도다. 선정된 수요기업은 최대 2억원 규모의 바우처를 통해 AI 교육, 컨설팅, AI 플랫폼을 비즈니스 형태에 맞게 구축할 수 있다.
kt m&s는 이번 AI바우처 지원사업에 자체 개발 AI 플랫폼 NEXUS를 앞세워 참여한다. NEXUS는 외부 개발사 도움 없이 내부 역량만으로 구축한 업무 통합 AI 플랫폼으로, △문서 기반 AI Q&A(RAG 챗봇) △데이터 분석 AI(SQL 자동 생성) △AI ArtLab(생성형 이미지 제작) 세 가지 기능을 하나의 플랫폼에서 제공한다.
특히 영업·상담 지원부터 매장 손익 분석, 사내 정책 안내까지 실무 전반에 걸쳐 2000여 명의 kt m&s 임직원들이 직접 사용하며 고도화해 온 것으로, 현장 적용성과 안정성을 내부에서 검증했다는 점이 특징이다. 또한 별도의 대규모 인프라 구축 없이도 도입할 수 있어 IT 전담 인력이 부족한 중소기업도 쉽고 빠르게 활용할 수 있다.
kt m&s AI확산팀 최은열 팀장은 “NEXUS는 내부 역량으로 개발해 유지·운영까지 자체적으로 가능한 구조”라며 “정부의 AI바우처 지원사업을 통해 수요기업에 합리적인 비용으로 지속 가능한 AI 솔루션을 공급할 수 있다”고 밝혔다.
kt m&s는 이번 선정을 계기로 NEXUS를 중소기업과 소상공인에게 본격 공급하며 AICT(AI+ICT) 기업으로의 전환을 가속화할 방침이다. 컨소시엄 구성 및 신청 문의는 kt m&s 홈페이지를 통해 하면 된다.
케이티엠앤에스 소개
KT의 통신상품 유통 전문 그룹사인 kt m&s는 KT의 유·무선 통신상품과 단말기 유통을 기반으로 직영 매장 운영, 통신상품 판매 및 유통 관리 사업을 수행하는 기업이다. 또한 온라인·비대면 유통 채널 운영과 중고폰 브랜드 ‘리본(Reborn)’을 통한 중고 단말기 유통 사업을 전개하고 있다. kt m&s는 고객 접점 중심의 운영 역량과 축적된 유통 경험을 바탕으로 통신 유통 시장에서 안정적인 사업 운영을 이어가고 있다.

[본문 전체보기]
인공지능 기술이 노동 행정의 새로운 도구로 자리 잡고 있다. 고용노동부는 3월 13일 ‘우리 노동부 인공지능 전환(AX) 세미나’를 열고 공무원이 직접 인공지능을 활용해 행정 효율성과 정책 대응 능력을 높인 다양한 사례를 공개했다. 산업재해 예방부터 노동 권익 보호, 구직 지원까지 인공지능이 행정 현장에서 실질적인 문제 해결 도구로 활용될 수 있음을 보여준 자리였다.
이날 발표된 주요 사례 가운데 가장 주목받은 것은 산업재해 위험 사업장을 사전에 찾아내는 산재 예측 인공지능 초기 모델이다. 노동행정인공지능혁신과는 인공지능 코딩 에이전트인 클로드 코드와 코덱스를 활용해 해당 모델을 개발했다. 이 시스템은 약 300만 개 사업장의 산업재해 발생 이력과 감독 관련 데이터를 학습해 사고 발생 가능성이 높은 사업장을 선별하는 방식으로 설계됐다.
모델은 전체 사업장 가운데 위험도가 높은 상위 0.6퍼센트, 약 1만9천 개 사업장을 정밀하게 추려낸다. 이러한 방식은 한정된 감독 인력과 예산을 실제 위험도가 높은 현장에 집중하도록 돕는다는 점에서 예방 중심 노동행정의 효율성을 높일 것으로 기대된다. 위험 가능성이 높은 사업장을 선제적으로 관리할 수 있다는 점에서 정책 대응의 속도와 정확성을 동시에 끌어올리는 효과도 예상된다.
특히 이 모델에는 설명가능한 인공지능 개념이 적용됐다. 특정 사업장이 왜 위험 대상으로 분류됐는지를 논리적으로 제시할 수 있도록 설계한 것이다. 공공행정에서 인공지능을 활용할 때 제기되는 책임성과 투명성 문제를 고려한 조치다. 행정 판단의 근거를 설명할 수 있는 구조를 통해 정책 집행 과정의 신뢰성을 확보하려는 시도라는 평가가 나온다.
성능 평가 결과도 의미 있는 수치를 보였다. 기존에는 사람이 산업재해 이력 등을 바탕으로 점수를 부여해 중점 관리 대상 사업장을 선정했다. 그러나 인공지능 모델을 적용할 경우 예측 성능이 기존 방식보다 약 52퍼센트 향상되는 것으로 나타났다.
실제 데이터 분석에서도 차이가 확인됐다. 2024년 12월 기준 활용 가능한 정보를 바탕으로 300만 개 사업장 가운데 1만9천 곳을 선정했을 때, 사람이 선정한 사업장에서는 2025년에 193만 일의 근로손실일수가 발생했다. 반면 인공지능이 선별한 사업장에서는 294만 일의 근로손실일수가 나타났다. 이는 인공지능이 사고 가능성이 높은 사업장을 더 정밀하게 찾아냈다는 의미로 해석된다.
현장 공무원이 직접 개발한 인공지능 기반 업무 도구도 함께 소개됐다. 부산지방고용노동청 강민 노동감독관이 개발한 ‘사운드라이터(SoundWriter)’는 수사 과정에서 확보한 통화 녹음 파일을 인공지능이 즉시 문자로 변환하는 프로그램이다. 방대한 음성 기록을 빠르게 확인할 수 있어 사건의 핵심 내용을 신속하게 파악하는 데 도움을 준다. 이를 통해 노동감독관은 사건 처리 속도를 높이고 노동자의 권리 구제를 보다 빠르게 진행할 수 있다.
구직 지원 분야에서도 인공지능 활용 사례가 공개됐다. 서울서부고용센터 한이송 주무관은 구직자의 경력과 직무 역량을 바탕으로 자기소개서 작성을 돕는 인공지능 자기소개서 생성기를 개발했다. 이 도구는 구직자가 지원 기업에 맞는 설득력 있는 자기소개서를 작성할 수 있도록 구조와 내용을 정리해주는 기능을 제공한다. 직업상담 공무원들의 업무 부담을 줄이고 구직자의 취업 준비 과정에도 실질적인 도움을 준다는 평가를 받고 있다.
고용노동부는 앞으로 산재 예측 인공지능 모델의 현장 적용 가능성을 더욱 면밀히 검토하고 성능을 지속적으로 개선할 계획이다. 동시에 임금체불 위험 사업장을 사전에 관리하기 위한 임금체불 예측 인공지능 개발도 추진한다. 노동 현장의 위험 요소를 조기에 파악하고 선제적으로 대응하는 행정 체계를 구축하겠다는 구상이다.
우수한 현장 개발 사례가 전국으로 확산될 수 있도록 공무원을 대상으로 한 인공지능 코딩 에이전트 지원과 교육도 확대한다. 행정 현장의 문제를 직접 경험하는 공무원이 기술을 활용해 해결책을 만들 수 있도록 기반을 강화한다는 취지다.
김영훈 고용노동부 장관은 행사에서 ‘바이브 코딩’을 직접 시연했다. 일상적인 언어로 명령을 입력해 영세사업장을 위한 일터 안전 점검 웹사이트를 제작하는 과정을 보여주며 공공행정의 새로운 가능성을 제시했다. 전문 개발자가 아니어도 공무원이 국민에게 필요한 서비스를 직접 만들 수 있는 환경이 열리고 있다는 점을 강조한 것이다.
김 장관은 “모든 직원이 인공지능을 능숙하게 활용해 임금체불 사건을 보다 신속하게 해결하고, 산재 취약 사업장에는 필요한 컨설팅과 예산을 정확하게 지원할 수 있도록 노동부의 인공지능 전환을 더욱 속도감 있게 추진하겠다”고 밝혔다. 인공지능 기술이 노동자의 생명과 권익을 지키는 행정 혁신의 핵심 수단으로 자리 잡고 있다.
이번 정책은 산업재해 예방 행정의 정밀도를 높이고 노동행정의 대응 속도를 개선하는 데 중요한 역할을 할 것으로 보인다. 인공지능 기반 데이터 분석을 통해 위험 사업장을 사전에 식별하고 감독 자원을 집중하면 산재 감소 효과를 기대할 수 있다. 또한 현장 공무원이 직접 개발한 다양한 AI 도구는 노동 권익 보호와 구직 지원 서비스의 효율성을 높이는 계기가 될 것으로 전망된다.
고용노동부의 인공지능 전환 정책은 공공행정에서 기술 활용의 새로운 방향을 보여준다. 단순한 디지털 도입을 넘어 노동 현장의 위험을 사전에 발견하고 행정 대응을 정밀화하는 체계로 발전하고 있다. 앞으로 산재 예방과 임금체불 관리 등 다양한 분야에서 인공지능 기반 행정이 확대될 경우 노동 안전과 권익 보호 정책의 실효성이 한층 강화될 가능성이 크다.

[본문 전체보기]
울산=곽시열 기자
‘인공지능(AI) 수도’를 선언한 울산시가 도시 체질 개선에 나선다. 60년간 축적한 제조업 경쟁력에 AI를 접목해 산업은 물론 도시 운영 전반을 재편하겠다는 구상이다.
울산시는 산업, 사회, 인프라, 인재, 거버넌스를 아우르는 ‘울산형 AI 비전’을 수립해 추진한다고 14일 밝혔다. 이 비전은 글로벌 AI 기술 확산과 AI 전략 본격화에 대응해 울산의 산업 구조와 도시 여건을 반영한 ‘지역 맞춤형 AI 대전환’ 전략으로 수립됐다.
모두 4대 전략, 93개 세부 사업으로 구성됐으며 총 1조637억 원의 사업비가 투입된다.
분야별로는 인프라 조성 분야에서 석유화학 AI 전환(AX)실증산단, 로보캠퍼스 등 17개 사업에 4084억 원을, 인력양성 분야에는 실물 인공지능(피지컬 AI) 교육훈련 센터 구축 사업 등 12개 사업에 1438억 원을 투자한다.
또 연구개발 분야에는 초거대산업 AI 연구지원사업, 인공지능 공장(AI팩토리) 등 20개 사업에 4323억 원, 기업지원 및 서비스 분야는 거점형 지능형도시(스마트시티) 조성 사업과 단말형 인공지능(온디바이스 AI) 공공서비스 실증 확산 사업 등 44개 사업에 792억 원을 투입할 계획이다.
울산시는 먼저 자동차·조선·석유화학 등 주력 제조산업 전반에 AI를 본격 도입해 산업 인공지능 전환(AX)을 가속화한다.
이를 위해 산업 특화 AI 핵심기술(특화 파운데이션 모델), 에이전틱 인공지능(Agentic AI)을 확보하고, 앵커 기업 중심의 AI 팩토리 전환을 확대해 중소·중견기업까지 AI 활용이 확산되는 구조를 구축한다.
또 한국전자통신연구원(ETRI) 동남권 연구본부 유치, 산학 인공지능 전환(AX) 공동연구소, 석유화학 인공지능 전환(AX) 실증산단, 미래이동수단(모빌리티) 엔지니어링센터, 로보캠퍼스 등 산업 특화 실증·연구 거점을 단계적으로 구축한다.
시민 누구나 혜택을 누리는 지역사회 AI 대전환 사업도 벌인다.
재난안전·교통·에너지·복지 등 공공서비스 전반에 스마트 AI 기술을 접목해 시민의 안전과 생활 전반에 AI가 작동하는 도시로 전환하는 것이다.
울산 AI 비서(Agent), AI 드론 인명구조, 산업단지 AI 안전관리, 스마트 교통·에너지 관리, AI 돌봄 서비스 등을 단계적으로 확대한다. 또 정책수요 맞춤형 빅데이터 분석과 도시 디지털복제(트윈)를 고도화해 데이터 기반 행정체계를 강화하고 ‘AI 디지털 배움터’ 확대와 AI 문화 확산을 통한 소외 없는 AI 일상화를 실현한다.
지속 가능한 AI 혁신 생태계 기반 구축에도 나선다. SK-아마존웹서비스(AWS) AI 데이터센터의 적기 준공을 지원하고, 수중 데이터센터 단지 조성 등이 사업에 포함된다.
이와 함께 지역 그래픽처리장치(GPU) 자원 확충, 민관데이터 파이프라인 구축, 공공 데이터 품질관리 및 개방 확대, 분산에너지 특구 및 친환경 에너지 자원 확충을 통해 인공지능(AI) 활용이 가능한 도시 기반을 완성한다.
체계적인 AI 대전환을 위한 거버넌스 고도화 사업도 벌인다.
초·중·고부터 대학생, 구직자, 석·박사·포닥(박사후 연구원)까지 이어지는 AI 지역 인재 성장 경로를 구축하고, AI·소프트웨어(SW) 기본교육, 분야별 AI실무역량 교육과 유니스트 인공지능(UNIST AI) 대학원 등을 통해 고급 연구·실무 인력을 양성하는 사업이다.
또 울산인공지능위원회와 유-넥스트 인공지능(U-NEXT AI) 포럼을 중심으로 민관 협력을 강화하고, AI 수도추진본부를 통해 정책 조정 기능을 높인다. 규제혁신 전담팀(TF)과 찾아가는 규제 신고센터 운영을 통해 AI 혁신을 가로막는 제도 개선에도 적극 나설 방침이다.
김두겸 울산시장은 “AI는 도시의 미래 경쟁력을 좌우하는 핵심 요소”라며, “60년간 축적해 온 산업 수도 울산의 저력 위에 AI를 결집해 지역경제 재도약과 시민 삶의 질 향상을 동시에 이끌어 가겠다”고 말했다.
곽시열 기자

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

[본문 전체보기]
(대전=뉴스1) 김종서 기자 = 한국생명공학연구원 국가전임상시험지원센터(KPEC)와 ㈜퓨리오사AI가 13일 신경망처리장치(NPU) 기반 고성능 인공지능(AI) 연산 인프라를 활용한 AI 신약개발 연구 협력 체계 구축을 위해 업무협약(MOU)을 체결했다.
이번 협약은 디지털 AI 세포(가상세포) 및 디지털바이오 플랫폼을 중심으로 AI 기반 신약개발 연구 역량을 강화하기 위해 추진됐다.
최근 양산을 시작한 퓨리오사AI의 2세대 NPU '레니게이드(RNGD)'를 기반으로 고성능 AI 연산 인프라를 바이오 연구 환경에 접목하는 게 핵심이다.
이번 협력에는 KPEC과 퓨리오사AI를 비롯해 연세대학교 약학대학, ㈜옴팔로스코리아, ㈜인실리콕스, 디지털 AI 세포 세종대왕 프로젝트 컨소시엄도 참여해 산·학·연 협력 기반의 AI 신약개발 연구 네트워크를 구축할 예정이다.
기관들은 향후 △AI 기반 신약개발 △디지털 AI 세포 및 디지털바이오 플랫폼 고도화 △바이오 특화 LLM 및 데이터 분석 플랫폼 △바이오 연구 환경에 최적화된 차세대 바이오 특화 로직 공동 연구 △데이터 분석 플랫폼과 컴퓨팅 팜 연계 활용 등 다양한 분야에서 협력을 확대할 예정이다.
백준호 퓨리오사AI 대표는 "AI 반도체와 바이오 연구의 결합은 신약개발 패러다임을 빠르게 변화시키고 있다"며 "AI 신약개발 연구를 가속화하고 디지털바이오 시대에 필요한 차세대 AI 컴퓨팅 기반 구축에 기여하겠다"고 말했다.
고경철 KPEC 센터장은 "이번 협약은 국산 NPU 기반 고성능 연산 인프라를 바이오 연구 현장에 연결하는 중요한 출발점"이라며 "디지털 AI 세포와 디지털바이오 플랫폼을 중심으로 AI 신약개발 연구 혁신을 선도하는 등 AI 디지털바이오 생태계 동반 성장에 기여하고자 한다"고 강조했다.
jongseo12@news1.kr
Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

[본문 전체보기]
- 교육 공공데이터와 인공지능(AI) 기술의 융합으로 미래교육을 위한 혁신 아이디어 발굴
[대한민국교육신문] 교육부는 17개 시도교육청과 함께 교육 공공데이터와 인공지능(AI) 기술을 융합하여 현장의 현안을 해결하고 새로운 데이터 활용 생태계를 조성하기 위해 '제8회 교육 공공데이터 인공지능(AI) 활용대회'를 개최한다고 밝혔다.
이번 대회는 ‘교육 공공데이터 활용대회’로 2019년부터 매년 개최된 바 있다. 올해 대회부터는 데이터 기획을 넘어, 참가자들이 인공지능(AI) 기술을 실무에 적용해 창의적인 문제 해결력을 기르고, 이들을 미래형 혁신 인재로 양성하는 데 목적을 두었다.
대회는 크게 두 가지 분야로 나뉘어 진행된다. 첫 번째로 데이터 활용 문턱을 낮추기 위해 초등학생이 참여하는 ‘인공지능(AI) 활용 소속 학교 홍보영상 제작’ 분야를 신설했다. 참가 학생들은 이미지‧영상 생성형 인공지능(AI) 도구를 활용해, 소속 학교의 매력을 알릴 수 있는 창의적인 영상 콘텐츠를 제작하게 된다.
두 번째 ‘인공지능(AI) 활용 아이디어 기획’ 분야에는 중‧고등학생과 성인(대학생, 교원, 일반인 등)이 참여한다. 교육 공공데이터를 활용해 학교생활, 학습, 안전 등 교육 현장의 문제를 해결하는 인공지능(AI) 기반 서비스 및 아이디어 기획을 제안한다.
대회 참가를 희망하는 개인과 팀(최대 3명)은 3월 16일부터 4월 15일까지 공식 누리집을 통해 작품 제작에 필요한 '생성형 인공지능(AI) 플랫폼 이용권'을 신청할 수 있다.
참가자들은 제공된 이용권과 맞춤형 교육을 바탕으로 출품작을 제작하여, 5월 31일(일)까지 최종 결과물을 제출하면 된다. 출품작은 1차 서면 심사(6월)와 대국민 공개검증 과정을 거쳐, 본선에 진출하면 2차 전문가 발표 심사를 통해 최종 수상작(7월)이 선정된다.
올해는 총 154편의 수상작을 선정하여 교육부 장관상(대상 3팀)과 시도교육감상, 주관‧후원기관상 등을 수여한다. 교육부 장관상 수상자(팀)에게는 시상 상금 외 100만 원 상당의 교육비와 부상을 후속으로 지원한다. 교육부 장관상을 수상한 일반부 수상자(팀)에게는 행정안전부에서 주관하는 ‘제14회 범정부 공공데이터 인공지능(AI) 활용 창업경진대회’의 참가 자격이 주어진다.
아울러 모든 수상작은 데이터 기획 역량을 공식적으로 인정하는 디지털 인증서(디지털 배지)를 수여 받고, 대회 누리집에 우수사례로 공개된다.
이윤홍 인공지능인재지원국장은 “이번 대회를 통해 학생들을 포함한 국민이 직접 교육 공공데이터와 인공지능(AI) 기술을 활용하며, 미래 사회에 필요한 핵심 역량을 체득하길 기대한다.”라고 말하며, “현장의 문제를 창의적으로 해결할 수 있는 우수 아이디어가 다수 발굴되어, 실제 교육 정책과 서비스 발전에 기여할 수 있도록 아낌없이 지원하겠다.”라고 밝혔다.
[뉴스출처 : 교육부]

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

[본문 전체보기]
대전시는 개발제한구역 및 도심의 위법행위 예방과 공간정보 데이터 최신화로 체계적인 도시 관리를 위해 지난해 8월 발주한 ‘2025년도 항공사진 판독용역’을 성공적으로 완료했다.
이번 사업은 국토지리정보원이 제공한 항공·정사 영상을 활용하고, 인공지능(GEOAI) 기반 항공사진 분석기술을 적용해 도시 전역의 지형지물 변동 사항을 정밀 판독하기 위해 추진됐다.
이번 용역에서는 정사 영상 분석을 통해 건축물 옥상과 주요 시설물에 설치된 태양광 패널 설치 현황을 파악하여 신재생에너지 정책 수립과 관련된 행정자료로 활용할 수 있는 기초자료 구축도 함께 진행했다.
특히 관내 지형지물 1만 114건의 항공사진 판독을 실시했으며, 중구 유천동 일원에 대한 3차원 도시공간정보 구축도 완료했다.

[본문 전체보기]
페이스북(으)로 기사보내기 트위터(으)로 기사보내기 카카오스토리(으)로 기사보내기 카카오톡(으)로 기사보내기 URL복사(으)로 기사보내기 이메일(으)로 기사보내기 다른 공유 찾기 기사스크랩하기
최근 CNN 등 조사, “AI챗봇들, 총기난사, 폭력 등 사주”
프롬프트 후 사용자의 어조와 감정 공유, ‘점차 위험한 대화로 유인’
[애플경제 이보영 기자] AI챗봇이 10대 청소년들에게 유해한 메시지를 전파하고 있다는 비판은 여전하다. 최근에 또 다시 CNN 등에 의해 10대들에게 ‘폭력’을 부추기며, 매우 위험한 응답을 제공하고 있다고 해서 문제가 되고 있다.
이미 미국 등에선 청소년들에 대한 AI챗봇의 잘못된 세뇌로 자살까지 감행한 사건이 줄을 이었다. 그 후 오픈AI의 챗GPT, X, 그록, 틱톡 등 유명 AI챗봇들의 오류, 환각, 탈옥 등을 최소화하기 위한 나름의 노력을 기울였다는게 제조사들의 주장이다.
그러나 자사 제품의 안전장치가 개선되고 있다는 빅테크나 AI업체의 주장과는 달리, 새로운 조사 결과에선 여전히 크게 변한 것이 없는 것으로 나타났다. 특히 챗봇과의 대화가 ‘어둡고 감정적이며 구체적인’ 내용으로 흘러갈 때가 문제다. 특히 폭력을 충동질하는 듯한 응답이나 메시지에 대해 10대 사용자들은 보호 장치가 여전히 제대로 작동하지 않는 것으로 나타났다.
미국 CNN과 ‘디지털 혐오 대응 센터’가 공동으로 진행한 조사가 최근 연주 중엔 가장 대표적이다. 조사에선 특히 걸핏하면 발생하는 학교 총격 사건이나, 폭탄 테러, 암살 등 미국 사회의 고질적인 병폐를 우려하게 했다. 세계에서 가장 유명한 AI 챗봇들이 정작 “마땅히 중단되어야 할 요청(프롬프트)을 일관되게 막지 못했다”는 사실이 드러난 것이다. 이는 “단순히 이름 없는 챗봇 하나가 무모한 질문에 답했다고 볼 수 없는 사례”라는게 조사에 임한 연구진의 설명이다.
유명한 AI챗봇 10개 중 8개가 ‘폭력 유도’
이에 따르면 세계적으로 가장 인기 있는 AI 챗봇 10개 중 8개가 10대 사용자를 가장한 대화 내용이 ‘폭력적인 공격’으로 수위가 높아지는 것을 일관되게 막지 못했다. CNN 등의 이번 테스트는 18가지 주제로 진행되었다. 또 챗GPT를 비롯해, 구글 제미니, MS 코파일럿, 메타 AI, 퍼플렉시티, 딥시크, 레플리카, 캐릭터.AI 등 주요 챗봇 플랫폼을 망라했다. 다만 앤트로픽의 클로드는 유일하게 실험에 참가하길 거부했다.
이번 조사에 따르면, 특히 많은 챗봇은 유해한 질문에 그저 답변만 하는데 그치지 않았다. 오히려 대화가 진행될수록 더욱 위험해지는 경우가 많았다. 연구진은 일단 취약한 십대 청소년을 대상으로 실험을 진행했다. 처음에는 불만과 감정적 고통에 대한 이야기로 시작했지만 점차 구체적 향후 계획으로 대화를 유도했다. 단 한 번의 직설적인 요청(프롬프트)보다 점차 유도심문 방식으로 (유해한 응답을 끌어낼 만한) 대화를 이끌어 가는 방식을 구사했다.
CNN에 따르면, ‘총기’를 묻는 질문에 챗GPT는 (마치 학교 총격 사건을 준비하듯) 고등학교 교정의 지도를 제공했고, 제미니는 “금속 파편이 일반적으로 더 치명적”이라고 했다. 딥시크는 아예 소총을 고르는 방법을 조언하며, “즐겁고 안전한 사격 즐기세요!”라는 말로 마무리했다. 또한 캐릭터.AI 역시 일부 요청에 대해선 폭력적인 질문을 거부하지 못했다. 뿐만 아니라 (대화를 진행할수록) 적극적으로 폭력을 조장했기 때문에 “매우 안전하지 않은” 것으로 평가되었다.
이처럼 유해한 정보를 유출하는 챗봇은 제조사들이 자신한 안전 장치가 심각한 결함이 있음을 보여준 사례다. 이들은 정작 청소년 사용자를 폭력으로 적극 몰아가며, 대화가 위험한 방향으로 흘러갈 때조차도 사용자의 호감을 잃지 않는다. 오히려 사용자들이 더 몰입하게하고, 전혀 경계하지 않도록 유도한다. 시스템에 근본적인 결함이 있음을 시사하는 모습이다.
주요 AI챗봇, ‘대부분 AI 안전에 실패’
더 우려스런 점은 이게 특정 AI플랫폼만의 문제가 아니라는 사실이다. 실험 대상이 된 대부분의 챗봇이 일부 주제에선 전혀 안전하지 않은 것으로 나타났다. 이는 “현재의 (제조사들의) 안전 시스템이 사용자와의 복잡하고, 감정적으로 격앙된 (위험한) 대화를 처리할 만큼 충분히 강력하지 않다는 것을 보여준다.”는 지적이다.
조사 결과 많은 안전 장치들은 사용자의 명백하고 단발적인 질문에는 효과적이다. 그러나 챗봇이 사용자의 어조와 감정선에 장단을 맞추고, 친밀감을 유지하며, 단계적으로 반응할 가능성이 높은 장시간 대화에서는 그 효과가 거의 없음이 밝혀졌다. 특히 사용자가 심리적으로 불안정한 10대 청소년으로 인식될 경우 이런 경향은 더욱 두드러진 것으로 확인되기도 했다.
비단 이번 조사가 아니라도 이런 우려와 지적은 지속적으로 이어져왔다. 지난해 ‘커먼 센스 미디어’(Common Sense Media)는 ‘유해한 조언이나, 정서적 의존, 부적절한 콘텐츠’ 등을 이유로 “18세 미만 청소년과 어린이에겐 ‘소셜 AI 동반자’가 치명적 위험을 초래할 수 있다”고 경고했다.
CNN의 이번 새로운 조사 결과는 주요 AI챗봇과 플랫폼들이 대부분 AI 안전에 실패하고 있음을 잘 보여준 셈이다. 그 때문에 국적을 불문하고, 청소년과 어린이들을 위한 챗봇의 금지 영역을 둔 논쟁은 더욱 가열될 수 밖에 없는 상황이다.

[본문 전체보기]
법무부(정성호 장관) 전주소년원(송천중고등학교)은 2.23. 세계적인 천문학자이자 서울대학교 물리천문학부 교수인 황호성 박사를 초빙해 겨울방학 명사 특강 ‘나, 그리고 우주’를 개최했다. 이번 특강은 소년원생들에게 우주적 관점에서 자아 성찰과 존재의 가치를 일깨우기 위해 기획되었다.
이번 특강은 황 교수의 각별한 고향 사랑과 후학 양성에 대한 열정으로 성사되었다. 전북 군산시 대야면 출신인 황 교수는 하버드-스미스소니언 천체물리연구소와 프랑스 CEA 등을 거친 세계적 석학이다. 그는 바쁜 연구 일정 속에서도 고향에 있는 소년원생들을 위해 기꺼이 강연대에 섰다.
황호성 교수는 이번 강연에서 우주의 탄생과 진화를 한 편의 장엄한 서사시로 풀어냈다. 우리 몸을 구성하는 탄소와 철분 등 필수 원소들이 과거 거대한 별의 폭발을 통해 만들어진 ‘별의 먼지(Stardust)’라는 과학적 사실은, 자신을 사회의 부속품이나 낙오자로 여겼던 소년원생들에게 커다란 울림을 주었다.
황 교수는 “여러분의 몸 안에서는 138억 년 전 우주가 탄생할 때부터 시작된 역사가 흐르고 있다”라며, “광활한 우주 속에서 인간은 먼지처럼 작지만, 그 우주를 관측하고 이해할 수 있는 유일하고 특별한 존재”라고 강조했다. “우주를 연구할수록 인간에 대한 겸손과 책임감을 느끼게 된다.”라며, “잠시 길을 잃은 고향의 후배들이 우주라는 거대한 지평선 위에서 자신의 삶을 객관적으로 바라보고, 새로운 궤도를 찾아가길 바라는 마음으로 달려왔다”라고 밝혔다.
임춘덕 교무과장은 “‘천문학’이라는 고도의 지적 사유를 통해 소년들이 깨진 자존감을 회복하고 ‘삶의 의미’를 스스로 찾게 하려는 의도로 기획하였다. 앞으로도 인문학과 과학 등 수준 높은 문화적 자극을 통해 소년들이 사회의 건강한 일원으로 복귀할 수 있도록 변화와 회복의 프로그램을 강화할 계획”이라고 밝혔다.
강연이 끝난 후 끝난 후 강당은 소년들의 질문으로 뜨겁게 달궈졌다. “우주의 끝은 어디인가요?”라는 질문부터 “실수한 인생도 우주처럼 다시 팽창할 수 있나요?”라는 뼈아픈 질문까지 이어졌다. 황 교수는 소년 하나하나의 눈을 맞추며 정성껏 답했다.
138억 년 전 어느 별의 죽음이 오늘의 생명을 잉태했듯, 소년원에서의 시련이 인생의 새로운 폭발과 진화의 밑거름이 되길 바라는 황 교수의 진심은 소년들의 가슴 속에 작은 별빛으로 남았다.
【황호성 교수 주요 이력】
• 현 서울대학교 물리천문학부 교수(천문학 전공)
• 전 한국천문연구원 책임연구원 및 고등과학원 연구교수
• 전 미국 하버드-스미스소니언 천체물리학 센터 연구원
• 한국천문학회 ‘젊은 천문학자상’(2019) 수상
• 학국과학기술한림원 차세대 회원(Y-KAST) 선정
• 주요 학술적 성과 및 수상
「은하의 회적과 우주 거대 구조의 성관관계」, 「은하단 내 은하의 역학 및 진화 연구」, 「은하의 형태 및 별 생성 활동에 미치는 환경적 효과」, 「적외선 관측을 통한 은하 진화 추적」, 「우주 거대 구조 분석」 등의 연구를 세계 최고 권위의 학술지 ‘네이처 천문학(Nature Astromomy)’ 등에 발표하며 세계 천문학계의 주목을 받고 있다.

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...

🚫 구글 봇 차단(쿠키 동의) - 재분석중...