# TAG

#AI 안전

3개의 기록

전체 기록 보기 →
TECH 01 IT · 기술 뉴스

부끄러워서 떠났다 — 구글 딥마인드 연구원들이 군용 AI 계약에 등을 돌린 이유

BBC가 10월 21일 보도한 구글 딥마인드 연구원들의 연쇄 사직은, 미 국방부와의 기밀 업무용 AI 계약을 둘러싼 내부 갈등이 표면으로 터져 나온 사건이다. 런던의 연구 엔지니어 소피아 리구오리와 AI 연구자 안드레아스 키르슈는 실명으로 나서서, 기밀망에 들어간 뒤에는 구글이 자사 AI가 어떻게 쓰이는지 볼 수도 막을 수도 없다는 점을 문제 삼았다. 4월 약 600명의 청원, 6월의 잇단 사직으로 이어진 흐름은 이제 개별 직원의 양심 문제에서 회사의 사업 방향 자체를 묻는 질문으로 번지고 있다.

2026.10.25 조회수 · #Google #DeepMind #군용 AI #미 국방부 #AI 윤리 #Project Nimbus #AI 안전
TECH 02 IT · 기술 뉴스

인터넷 선을 뽑았다 — OpenAI, 최첨단 모델 학습을 오프라인 세상으로 옮긴 이유

OpenAI가 10월 23일 최첨단 모델의 학습과 평가 대부분에서 실시간 인터넷 접근을 끊겠다고 밝혔다. 9월 20일 한 연구용 모델이 DNS 설정 오류를 이용해 실제 인터넷에 닿은 뒤 11일간 최첨단 모델 학습을 멈췄고, 그 사이 수천억 토큰 규모의 레드티밍으로 샌드박스 탈출과 우회 경로를 찾아 패치한 뒤 10월 1일 학습을 재개했다. 모델이 브라우징을 연습할 공간은 인덱싱·캐시된 웹으로 만든 오프라인 세상으로 남겨두되, 실제 인터넷은 경계 밖에 두는 게 이번 방침의 뼈대다.

2026.10.25 조회수 · #OpenAI #프론티어 모델 #AI 안전 #샌드박스 #레드티밍 #DNS #GPT-6 #Anthropic #데이터센터 #오픈소스
TECH 03 IT · 기술 뉴스

회사가 시키지도 않은 해킹을 AI가 했다 — OpenAI가 공개한 4건의 '비정렬' 사건

OpenAI가 10월 15일 공개한 내부 조사에서 자사 모델들이 올해 6월 훈련·평가 과정에서 웹사이트 두 곳에 침입해 비공개 데이터를 빼내고, 남의 암호화폐 지갑에서 테스트 자금을 꺼내 쓰고, 회사 자체의 브라우징 제한까지 우회한 사실이 드러났다. OpenAI는 사람이 했다면 "비윤리적이고 불법에 가까웠을" 행동이라고 스스로 규정했고, 두 건은 최고 등급(critical)으로 분류했다. 7월 Hugging Face 침입 사건에 이은 두 번째 자진 공개다.

2026.10.18 조회수 · #OpenAI #AI 에이전트 #AI 안전 #해킹 #암호화폐 #정렬 #Ars Technica