베스핀글로벌·업스테이지, 울산교육청 AI 서비스에 국산 LLM 적용
베스핀글로벌은 업스테이지의 국산 LLM과 에이전틱 AI 플랫폼을 결합해 울산교육청 AI 교수학습 서비스 '우리 아이(AI)'를 질의응답형에서 학습 맥락 연계형으로 고도화하고, 전국 시·도교육청으로 확대할 계획이다.
Weekly Trend Report · 2026-W38
AI 정책·기술 동향 주간보고 — 2026년 9월 2주차
교육분야 AI · LLM 기술 · AI 윤리/가드레일
이번 주 AI 안전 논의는 OpenAI의 오정렬 보고 프레임워크 공개와 앤트로픽의 상주 외부 평가기관 지정으로 구체화되었으나, 모델 공개 주기는 오히려 단축되었다. LLM 시장은 법률·산업·보안 등 직무 특화 모델과 중국 오픈웨이트 확산으로 차별화가 진행되었다. 교육 분야는 국산 LLM 기반 공교육 AI 확대와 함께 학생의 인지적 의존, AI 채점·수행평가 신뢰 문제에 대한 제도 논의가 병행되었다.
교육분야 AI 동향
01 / 3공교육 AI 서비스 고도화와 학습 저해 우려, 평가 개편 논의가 동시에 전개되었다.
핵심 요약교육 AI는 국산 LLM 기반 에이전트로 확장되는 한편, 인지적 의존과 평가 신뢰 문제에 대한 제도적 대응이 쟁점으로 부상했다.
시사점 (Implications)
- 교육 AI 도입 시 국산 LLM·에이전트 플랫폼의 시도교육청 간 재사용 구조를 사전에 설계해야 한다.
- AI 채점·평가 기능은 교사의 최종 판단과 근거 검증 절차를 제도에 내장하여 적용해야 한다.
- 학습 저해 위험에 대응해 AI 활용 범위·표기 기준과 AI 없는 평가 병행 체계를 정비해야 한다.
- AI 리터러시 교육은 사용법보다 결과물 검증과 비판적 판단 역량 중심으로 설계해야 한다.
주요 동향
한국교육과정평가원, 서·논술형 AI 자동채점은 교사 판단을 전제로 해야 한다고 제시
발표자들은 AI가 채점 효율성과 일관성을 높이나 편향과 오류 가능성이 있어 보조 체계로만 활용해야 하며, LLM은 점수 산출 근거 설명에 한계가 있다고 지적했다.
MIT 보고서, 학생의 '인지적 항복' 우려 제기
MIT AI 위원회 보고서는 학생이 어려움을 겪는 첫 순간부터 AI에 의존해 학습했다는 착각에 빠질 수 있다고 지적했다. 중국 중고생 2만6000명 연구에서는 AI 활용 후 숙제 점수가 18% 오르고 AI 없는 시험 점수는 20% 하락했다.
미국 교육계는 AI 확대와 제동으로 엇갈린 선택
백악관 측은 초등학생부터 AI를 활용해야 한다고 강조한 반면 뉴욕과 LA는 학생의 AI 사용에 제동을 걸었고, 마이크로소프트와 교원노조는 학생 데이터 이용을 제한하는 별도 안전장치를 마련했다.
수행평가 AI 활용은 금지가 아닌 교과별 기준 설정으로 관리
교육부와 시·도교육청의 '수행평가 시 AI 활용 관리 방안'은 활용 범위 설정, 활용 과정 표기, 사전교육, 평가 설계, 개인정보 보호 5개 영역으로 구성된다.
AI 튜터 연구, 학습자의 판단 요구를 유지하는 설계 효과 확인
arXiv 논문의 CoMeT는 성인 학습자 131명 실험에서 질문 전용 튜터 대비 학습자 좌절을 줄였고, 완전한 정답을 제공한 비율은 16회 중 1회로 질문 전용 튜터(6회 중 1회)보다 낮았다.
LLM 기술 동향
02 / 3프런티어 모델의 업무 특화, 국산 모델의 산업·보안 특화, 중국 오픈웨이트 확산이 부각되었다.
핵심 요약미국 프런티어 모델은 직무 특화 파운데이션으로, 국산 모델은 산업·보안 특화로, 중국은 오픈소스 외교로 차별화 경쟁을 전개했다.
시사점 (Implications)
- 범용 모델 경쟁에서 직무·산업 특화 파운데이션과 전용 설정 패키지 중심으로 조달 기준을 전환해야 한다.
- 에이전트 도입 시 평균 성능이 아닌 반복 실행 일관성을 검증 지표로 포함해야 한다.
- 소형 고효율·온프레미스 가능 국산 모델을 교육·공공 서비스 후보군에 포함해 비용과 데이터 통제를 비교 평가해야 한다.
- 중국 오픈웨이트 확산과 증류 쟁점을 반영해 모델 출처·라이선스 검증 절차를 마련해야 한다.
주요 동향
OpenAI, GPT-6 Astra 기반 법률 특화 'Astra for Law' 공개
GPT-6 Astra에 법률 검색 색인과 전문 설정을 결합해 로펌과 리걸테크 기업용 기반으로 제공하며, Harvey·Legora 등 API 고객이 활용하고 26개 플러그인과 기밀 고객 업무용 통제를 지원한다.
Google, 음성 에이전트용 Gemini 3.8 Live·Live Extended Thinking 출시
Gemini 3.8 Live는 규모와 비용 효율, Extended Thinking은 고난도 다단계 추론에 맞춰 설계되었고 Gemini 앱·Workspace·검색의 음성 경험에 적용된다.
에이전트 평가는 평균 성공률보다 일관성이 관건
IBM Research는 AppWorld에서 GPT-4.1 ReAct 에이전트의 실행별 성공률이 77.4%이나 다섯 번 모두 성공한 과제는 53.0%로 24.4%p 격차가 있다고 보고했다.
LG AI연구원, 엑사원 기반 '전문가 AI'와 외부 공급 계획 발표
제조(엑사원 태뷸러·옴니 인스펙트), 과학(디스커버리), 금융 분야 특화 모델을 공개했고, 계열사 검증 사례 100건 이상을 토대로 외부 산업에 공급하며 프런티어 모델 도전도 병행한다.
국내 소형 고효율·오픈소스·보안 특화 모델 확대
업스테이지 솔라 미니 4(35B)는 250B급 솔라 프로 4의 7분의 1 크기로 유사 성능을 내세웠고, 제논은 큐원3.5-397B 기반 모델을 B200 GPU 8장으로 후학습해 공개했다. 네이버클라우드 컨소시엄은 하이퍼클로바X와 엑사원 기반 700B급 보안 특화 모델을 개발한다.
중국, 오픈웨이트 모델을 외교 수단으로 활용하고 증류 논란 지속
시진핑은 브릭스에 'AI 오픈소스 구역' 구축을 제안했고, 뉴스1은 중국 기업이 미국 모델의 암호화된 추론 정보까지 추출한 정황을 보도했다.
AI 윤리/가드레일 동향
03 / 3프런티어 기업의 안전사고 공개와 독립 평가 요구, 국내 안전체계 구축이 진행되었다.
핵심 요약프런티어 기업이 오정렬 공개와 외부 평가를 도입했으나 개발 속도는 오히려 빨라졌고, 국내는 고영향 AI 판정과 안전 평가 체계를 구체화했다.
시사점 (Implications)
- 외부 평가자 상주와 오정렬 사례 공개가 업계 표준으로 확산될 가능성에 대비해 도입 AI의 사고 보고 요건을 계약에 반영해야 한다.
- 개발 속도와 안전 약속의 괴리를 전제로 공급사 자체 공시에 의존하지 않는 독립 검증 체계를 확보해야 한다.
- 교육 현장 AI는 고영향 AI 판단 기준과 청소년 보호 규제 동향을 점검하여 연령별 안전장치를 설계해야 한다.
- 한국어·국내 맥락 기반 안전 평가와 에이전트 레드티밍 절차를 도입 심사에 포함해야 한다.
주요 동향
OpenAI, 모델 오정렬 보고 프레임워크와 사례 6건 공개
지난 6개월간 확인된 이상 행동 6건을 공개했으며 불확실한 사안도 공개하는 원칙을 채택하고, 업계가 정렬·모니터링 문제를 충분히 해결하지 못했다고 밝혔다.
앤트로픽, 액센추어를 상주 외부 안전 평가기관으로 지정
임직원 수준의 접근권을 부여하고 양사가 5년간 각각 최소 10억 달러를 안전 역량에 투자하나 공개 정보 범위 등 기준은 확립되지 않았다. AI 전문가 100여명은 소유·상업적 거래 부재 등 5개 독립성 조건을 담은 공개서한을 냈다.
개발 감속 주장과 달리 모델 공개 주기는 단축
동아일보 분석에 따르면 앤트로픽의 최상위 모델 공개 주기는 210일에서 47일로, OpenAI는 144일에서 67일로 짧아졌다.
정부, 인공지능기본법 시행 후 첫 고영향 AI 판정
과기정통부는 확인 요청 16건 중 범죄 수사용 얼굴인식 기술 2건을 고영향으로 판단했으며, 사실조사·과태료 유예 계도기간은 최소 1년 이상이다.
아동·청소년 보호 규제와 한국어 안전 평가 연구 확산
EU 집행위는 15세 미만 SNS·게임·AI 챗봇 이용 제한안을 추진하고, OpenAI는 호주 청소년 안전 청사진을 발표했다. ETRI 연구에서는 영어보다 한국어 질문의 유해성 점수가 낮았다.
국내 AI 안전 체계 구체화
네이버는 위험을 110개 항목으로 분류한 ASF 2.0 적용 보고서를 발간했고, 과기정통부는 AI를 보조 도구로 한정한 국가 R&D 연구윤리 가이드를 확정했다. 국정원은 에이전트 안전성 평가를 확대하고 12월 레드티밍 지침을 배포한다.
출처 / Sources
- 베스핀글로벌, 업스테이지와 울산 공교육 AI에 국산 LLM 입힌다 · 지디넷코리아 · 2026-09-15
- 한국교육과정평가원, 서·논술형 AI 자동채점 세미나 개최… "최종 판단은 교사가 맡아야" · 교육을 비추다 · 2026-09-18
- [미국] 학교 AI, ‘확대냐 제동이냐’ 엇갈린 선택 · 교육플러스 · 2026-09-17
- AI가 대학생 '인지적 항복' 일으켜…美 MIT 보고서 '파장' · DongA Science · 2026-09-17
- [오늘의 교육쟁점] AI가 답을 쓰는 시대, 교실은 무엇을 평가하나 · 더에듀 · 2026-09-21
- "청소년에겐 AI도 미디어...비판적 사용법 가르쳐야" · 지디넷코리아 · 2026-09-17
- Adaptive Scaffolding Needs Contingency: An AI Tutor That Escalates and Fades on What the Learner Does · arXiv · 2026-09-19
- Introducing Astra for Law · OpenAI · 2026-09-17
- Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking · Google DeepMind · 2026-09-15
- Your Agent Aced the Task. Will It Do It Again? · Hugging Face · 2026-09-15
- LG AI연구원 "엑사원 외부 공급 계획…프런티어 모델 도전 병행" · 지디넷코리아 · 2026-09-14
- LG, 제조·금융·과학 난제 푸는 '전문가 AI' 공개…자율형 공장 앞당긴다 · 지디넷코리아 · 2026-09-14
- 업스테이지, ‘솔라 미니 4’ 무료 프리뷰 공개…“프로급 성능 구현” · AI타임스 · 2026-09-14
- 제논, 초거대 AI에 '컴퓨터 조작' 능력 더했다…B200 8장으로 후학습 · 지디넷코리아 · 2026-09-18
- S2W, 정부 주도 ‘보안 특화 AI 파운데이션 모델’ 개발 사업 참여 · 지디넷코리아 · 2026-09-14
- [단독]AI '생각'까지 빼갔다…中 기업 '불법 증류' 수법 드러나 · 뉴스1 · 2026-09-15
- 시진핑, 브릭스에 ‘AI 오픈소스 구역’… AI 동맹 확보에 속도 · 조선일보 · 2026-09-14
- Our framework for reporting model misalignment · OpenAI · 2026-09-16
- Introducing the Australian Youth Safety Blueprint · OpenAI · 2026-09-18
- AI전문가들 "앤트로픽·오픈AI, 독립 안전평가 필요"…공개서한 · 연합뉴스 · 2026-09-19
- [단독]“AI개발 감속” 외쳤지만, 새모델 공개 주기 1년새 210→47일 ‘가속’ · 동아일보 · 2026-09-16
- 네이버, AI 안전성 관리 체계 'ASF 2.0' 공개 · 뉴스핌 · 2026-09-16
- [단독] 정부 첫 ‘고영향 AI’ 판정은 ‘범죄 수사용 얼굴인식’ 기술 · 한겨레 · 2026-09-16
- EU, 15세 미만 아동 SNS·게임·AI 챗봇 이용 전면 제한 추진 · 한국일보 · 2026-09-15
- AI 안전성, 지정학적 맥락보다 '언어'에 더 큰 영향…한국어 질문 시 유해성 낮아 · 지디넷코리아 · 2026-09-21
- 'AI 속도조절' 제기 앤트로픽, 외부 안전 평가기관 지정 · MBC 뉴스 · 2026-09-19
- [AI프리즘] 국정원, AI 에이전트 안전성 평가한다(종합) · 연합뉴스 · 2026-09-17
- [AI픽] 국가 R&D서 AI는 '도구'…책임·권리는 연구자에게 · 연합뉴스 · 2026-09-20