Loading...

AI 뉴스

OpenAI, AI 에이전트 학습 위해 하청업체에 실제 업무 문서 제출 요청

페이지 정보

작성자 symbolika
작성일 01.11 10:13
291 조회
0 추천
0 비추천

본문

OpenAI AI Agents Training

Executive Summary

• OpenAI가 외부 하청업체에게 현재 또는 이전 직장에서 수행한 실제 업무 과제와 산출물을 업로드하도록 요청하고 있음

• 이 데이터는 차세대 AI 모델의 성능을 평가하고, 인간 전문가와 AI의 업무 수행 능력을 비교하는 데 활용될 예정

• 하청업체가 기밀정보와 개인정보를 직접 삭제해야 하는 방식이어서 영업비밀 유출 및 법적 분쟁 우려 제기됨


Background

OpenAI는 2024년 9월부터 자사 AI 모델의 성능을 인간 전문가와 비교·측정하는 새로운 평가 체계를 도입했다. 이는 '경제적으로 가치 있는 대부분의 과업에서 인간을 능가하는 AI 시스템', 즉 AGI(범용인공지능) 달성 진척도를 파악하기 위한 핵심 지표로 활용되고 있다. AI 기업들은 고품질 학습 데이터 확보를 위해 Surge, Mercor, Scale AI 등 외부 업체와 대규모 계약을 맺어왔으며, 이 시장은 Handshake AI의 35억 달러, Surge의 250억 달러 기업가치 평가에서 보듯 급성장 중이다.


Impact & Implications

법적·윤리적 리스크

지식재산권 전문 변호사 에반 브라운은 이러한 방식이 영업비밀 침해 소송의 빌미가 될 수 있다고 경고했다. 하청업체 직원들이 이전 고용주의 비밀유지계약(NDA)을 위반하거나 영업비밀을 노출할 위험이 있기 때문이다. AI 기업이 기밀정보 판별 책임을 개별 하청업체에 전가하는 구조는 상당한 법적 리스크를 수반한다.

AI 에이전트 경쟁 심화

OpenAI, Anthropic, Google 등 주요 AI 기업들이 기업 업무 자동화가 가능한 AI 에이전트 개발에 박차를 가하고 있다. 실제 업무 데이터를 활용한 학습은 AI 에이전트가 현실 세계의 복잡한 업무를 처리하는 데 필수적이며, 이번 사례는 그 데이터 확보 전략의 일면을 보여준다.

데이터 조달 방식의 진화

WIRED 취재에 따르면 OpenAI는 폐업 기업의 내부 문서, 이메일 등 데이터 구매도 타진한 것으로 알려졌다. AI 학습용 고품질 데이터 확보 경쟁이 점점 더 공격적인 방향으로 전개되고 있음을 시사한다.


Key Data & Facts

항목수치/내용
Handshake AI 기업가치35억 달러 (2022년)
Surge 추정 기업가치250억 달러 (2024년 하반기)
평가 프로세스 도입 시기2024년 9월
요청 문서 형태Word, PDF, PowerPoint, Excel, 이미지, 코드 저장소 등

Key Quote

"AI 연구소가 기밀 정보 판단을 하청업체에 전적으로 맡기고 있다. 만약 무언가 빠져나간다면, AI 연구소가 그것이 영업비밀인지 아닌지 판별하는 데 충분한 시간을 들이고 있을까? AI 연구소가 스스로를 큰 위험에 노출시키는 것 같다." — 에반 브라운, 지식재산권 변호사
댓글 0
전체 1,366 / 13 페이지
• OpenAI가 'AI 안전 준비 총괄(Head of Preparedness)' 직책 신설• 정신건강 위협, 사이버보안 무기화 등 AI의 심각한 위험성 대응 목표• 자기개선 AI 시스템에 대한 안전장치 마련도 포함• 챗봇 관련 청소년 자살 사건 등 잇따라... "늦은 감" 지적도OpenAI가 AI의 위험성을 전담하는 '안전 준비 총괄(Head of Preparedness)' 직책을 신설하고 인력 채용에 나섰다. 쉽게 말해, AI가 심각하게 잘못될 수 있는 모든 경우의 수를 고민하는 것이 주요 업무다.샘 올트먼은 X(구 트위터)에 올린 글에서 AI 모델의 급격한 발전이 "실질적인 과제들"을 야기하고 있다고 인정하며 해당 직책을 공개했다. 그는 특히 사람들의 정신건강에 미치는 영향과 AI 기반 사이버보안 무기의 위험성을 명시적으로 언급했다.채용 공고에 따르면, 해당 직책의 담당자는 다음과 같은 역할을 수행하게 된다:"심각한 피해의 새로운 위험을 초래하는 최첨단 역량을 추적하고 대비합니다. 일관성 있고 엄밀하며 운영적으로 확장 가능한 안전 파이프라인을 구성하는 역량 평가, 위협 모델, 완화 조치를 구축하고 조율하는 직접 책임자가 됩니다."올트먼은 이 직책의 담당자가 앞으로 회사의 '준비 프레임워크' 실행, '생물학적 역량' 출시를 위한 AI 모델 보안, 나아가 자기개선 시스템에 대한 안전장치 설정까지 책임지게 될 것이라고 밝혔다. 그는 또한 이 직무가 "스트레스가 많은 일"이 될 것이라고 덧붙였는데, 이는 다소 절제된 표현으로 보인다.챗봇이 청소년 자살에 연루된 여러 건의 세간의 이목을 끄는 사건들이 있은 후, 이제야 이러한 모델들이 야기할 수 있는 잠재적인 정신건강 위험에 집중하는 인력을 두는 것은 다소 늦은 감이 있다. AI로 인한 정신질환 문제가 커지고 있는데, 챗봇이 사람들의 망상을 부추기고, 음모론을 조장하며, 섭식장애를 숨기도록 돕는 사례가 늘고 있기 때문이다.
301 조회
0 추천
2025.12.29 등록
네이버클라우드가 텍스트·이미지·음성을 단일 모델에서 통합 학습하는 국내 첫 네이티브 옴니모달 AI 모델 ‘하이퍼클로바X SEED 8B Omni’와 추론형 모델 ‘32B Think’를 과학기술정보통신부의 독자 AI 프로젝트 첫 성과로 29일 오픈소스 공개했다.32B Think 모델은 올해 수능 문제 풀이에서 국어·수학·영어·한국사 전 과목 1등급을 달성하고 영어·한국사 만점을 기록했으며, 글로벌 AI 평가 벤치마크에서 주요 해외 모델과 유사한 성능을 보였다.네이버클라우드는 기존 인터넷 문서 중심 학습을 넘어 현실 세계 맥락 데이터 확보에 집중하며, 검색·커머스·공공·산업 등 다양한 분야에서 활용 가능한 AI 에이전트를 단계적으로 확장할 계획이다.
309 조회
0 추천
2025.12.29 등록
카카오는 정부 주도 GPU 확보 사업에서 연내 목표치의 4배를 초과하는 255노드(GPU 2040장)를 경기 안산 데이터센터에 조기 구축 완료했다고 29일 밝혔다.지난 8월 최종 사업자로 선정된 카카오는 AI 3대 강국을 위한 핵심 인프라로 엔비디아 B200 GPU 총 2424장을 확보해 5년간 위탁 운영하며 국내 AI 연구·개발을 지원할 계획이다.카카오는 자체 데이터센터의 전력·냉각 시스템과 공급사와의 긴밀한 협력으로 조기 구축에 성공했으며, 내년 1월부터 산·학·연 과제에 베타서비스를 제공할 예정이다.
316 조회
0 추천
2025.12.29 등록
구글이오픈소스모델인'젬마3(Gemma3)'의내부작동원리를분석할수있는도구인'젬마스코프2(GemmaScope2)'를출시하며AI의'블랙박스'현상을규명하기위한연구결과를공개했습니다.이도구모음은인공지능이탈옥이나환각증상을보이거나아첨하는태도를취할때내부의어떤기능이활성화되고네트워크를통해어떻게전달되는지를실시간으로추적하여AI의안전성과정렬상태를정밀하게검사할수있도록돕습니다.특히모든레이어에포함된'트랜스코더'기술을통해인공지능내부에서정보가어떻게전파되고계산되는지그구체적인경로를파악할수있게함으로써,AI모델의신뢰도를높이고윤리적인행동제어를가능하게하는데기여할것으로기대됩니다.
305 조회
0 추천
2025.12.29 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입