18+
빌런 TOP 20
일간 l 주간 l 월간
1
[컴퓨터] RTX 5080 특가에 CPU 쿨러 사은품! 조텍, 지포스 그래픽카드 선착순 특가
2
[컴퓨터] RTX 5080 특가에 CPU 쿨러 사은품! 조텍, 지포스 그래픽카드 선착순 특가 진행
3
[컴퓨터] 맥스엘리트, 컴퓨존 한정 '1stPlayer 와칠 WA7-K RGB' 특가 판매
4
[인공지능] 엔비디아, 서울 코엑스서 ‘RTX 스파크’ 출시
5
[컴퓨터] 조텍 RTX 5090 약 47만 달러어치, 브라질 공항에서 행방불명
6
[컴퓨터] RTX 5090을 또 100원에 판다! 탁탁몰, 조텍 RTX 5090 ‘100원딜’ 이벤트 앵콜 진행
7
[컴퓨터] 조텍, RTX 50 그래픽카드 대상 ‘컨트롤 레조넌트’ 게임 번들 프로모션 연장 진행
8
[인공지능] 구글, 엔비디아 AI 생태계에 도전하는 TorchTPU 공개
9
[취미/교양] 무착륙 비행 딱지가 컬러라 모으는 재미가 남달라요
10
[PC/가전핫딜] [네이버쇼핑] 프롭스 45W 보조배터리 20000mAh (17,480원 / 배송 무료)
11
[유머] 동물병원에서 잃어버린 고양이 찾는 과정
12
[유머] 닭갈비 오래 볶는 아주머니
13
[인물] 남편이 아이 이유식 냄비에 짬뽕
14
[핫딜정보] [우림 FMG 패밀리세일] 루미녹스, 시티즌, 스톤헨지, 로즈몽 등
15
[이슈/논란] 🔥 세부 카지노 여행 준비, 누스타호텔 프리룸부터 공항픽업까지 로얄탐
16
[게임] 액티비전 "올해 최대 게임은 GTA 6와 콜 오브 듀티"
17
[PC/가전핫딜] [쿠팡] 얼라이브 원스데일리 포 맨 멀티비타민, 80정, 1개 (22,720원/무료) (22,720원 / 무료배송)
18
[기타핫딜] [어미새] 파라점퍼스 아울렛 패딩들 모음
19
[PC/가전핫딜] [롯데온] [온쇼페]로지텍G PRO X 지슈라 외 키보드마우스 모음 (180,000원 / 무료배송)
20
[컴퓨터] 광고를 보기만 했는데 스마트폰이 해킹되는 공격 확인
인텔 코어 울트라7
지난 1년 동안 인공지능이 초래할 수 있는 잠재적 위험에 대한 우려가 이어졌으며, AI 안전을 위한 올바른 방향을 둘러싼 논쟁도 격렬하게 벌어졌다. 이제 앤트로픽(Anthropic)이 정부가 AI 산업을 어떻게 규제해야 하는지에 대한 자체적인 구상을 내놓은 것으로 보인다. 폴리티코(Politico)는 최근 보도에서 이 AI 연구소가 의회에서 채택을 검토하기를 바라는 새로운 AI 안전 법안 초안을 여러 관계자에게 제시하고 있다고 전했다. 이 법안은 특정 상황에서 AI 모델의 공개와 배포를 차단할 수 있도록 규정하고 있다. 폴리티코에 따르면 이러한 상황은 '예측 가능하고 임박한 위험'이 존재하는 경우로, 50명 이상의 사망 위험이 있거나 10억 달러 이상의 재산 피해가 발생할 수 있는 상황을 의미한다. 해당 매체는 문제가 되는 재앙적 위험이 "생물학 무기의 제작 또는 배포, 모델이 개발자의 통제를 벗어나는 상황, 또는 사이버 공격에서 비롯되어야 한다"고 설명했다. 여기서 제시된 50명과 10억 달러라는 기준은 최근 법률로 제정된 캘리포니아주 법안인 상원법안 53호(Senate Bill 53)의 기준과 유사하다. 이 법안 역시 이러한 상황을 '재앙적 위험(catastrophic risk)'에 해당하는 것으로 정의했다. 앤트로픽의 법안은 미국 상무부에 등록된 '독립 평가자(independent evaluators)'를 통해 모델이 재앙을 초래할 가능성을 분석할 수 있도록 제안한다. 폴리티코에 따르면 이러한 평가자들은 "보수가 평가 결과에 따라 달라지지 않는다는 조건"하에 AI 연구소로부터 직접 보수를 받을 수도 있다. 다만 이러한 제안된 제도가 보수 지급이 평가에 영향을 미치지 않도록 어떻게 보장할 수 있을지는 분명하지 않다. 딥마인드(DeepMind)의 데미스 허사비스(Demis Hassabis) 회장은 몇 달 전 자율적으로 운영되는 AI 규제 기관이 금융업계의 금융산업규제기구(FINRA)를 본떠야 한다는 의견을 제시한 바 있다. 앤트로픽의 법안 초안에 따르면 평가자가 임박한 재앙적 위험이 존재한다고 판단할 경우, 72시간 이내에 상무부에 이를 통보해야 한다. 이후 상무부는 워싱턴 D.C.의 판사에게 해당 모델의 공개 중단을 요청해야 한다. 폴리티코에 따르면 이 법안은 어떠한 연방 기관도 자체적인 재량으로 모델의 배포를 중단할 수 없도록 명시적으로 금지하고 있다. 앤트로픽은 테크크런치의 논평 요청에 즉각 응답하지 않았지만, 대변인은 폴리티코에 해당 법안 초안의 존재를 확인했다. 대변인은 "이 법안은 앤트로픽의 첨단 AI 프레임워크(Anthropic's Advanced AI Framework)에 명시된 제안들을 반영한 것으로, 우리는 지난 6월부터 연방 및 주 의회 의원들을 대상으로 이를 지지해 왔습니다"라고 말했다. 이 정책 초안에서 제시한 이론적 위험은 최근 기술 업계가 가장 크게 우려해 온 사건들과는 다소 거리가 있다. 인명 피해 가능성을 경고하는 사람들도 있지만, 주요 우려는 대체로 에이전트형 해킹(agentic hacking)의 위협에 집중되어 왔다. AI 프로그램이 인간 운영자의 지시를 따르지 않고 공개 인터넷상의 웹사이트를 해킹한 것으로 보이는 일련의 사건들은 모델에 적절한 보안 통제 장치가 부족할 수 있다는 우려를 불러일으켰다. 앤트로픽과 같은 기업들은 AI 연구소들 스스로도 초래하는 데 일조한 이러한 위기 상황에 대한 해결책을 제시하기 위해 자신들이 선호하는 방안을 내놓고 있다. 실제로 AI 연구소들은 자신들이 판매하는 기술이 인류 문명의 종말을 초래할 수 있다고 끊임없이 경고하면서도, 의무적인 정부 감독에는 대체로 반대해 왔다. 대신 이들은 자발적인 내부 상주 평가자(embedded evaluators) 제도를 제안해 왔다. 이는 AI 조직 내부에 배치되어 모델에서 잠재적인 위험이나 악용의 징후가 나타나는지 감시하는, 이른바 '중립적인' 제3자 관찰자를 의미한다. 그럼에도 앤트로픽이 법안 제정을 제안했다는 사실만으로도 업계의 다른 기업들이 내놓은 규제 제안보다는 약간 더 나아간 것으로 보인다. 여기에는 최근 AI 산업에는 새로운 법률이 전혀 필요하지 않다고 주장한 젠슨 황(Jensen Huang) CEO가 이끄는 엔비디아도 포함된다. 출처 : https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/
2026.10.21
1
4
파인인포
  • 종합
  • 뉴스/정보
  • 커뮤니티
  • 질문/토론