18+

전체 게시글

빌런 TOP 20
일간 l 주간 l 월간
파인인포
지난 1년 동안 인공지능이 초래할 수 있는 잠재적 위험에 대한 우려가 이어졌으며, AI 안전을 위한 올바른 방향을 둘러싼 논쟁도 격렬하게 벌어졌다. 이제 앤트로픽(Anthropic)이 정부가 AI 산업을 어떻게 규제해야 하는지에 대한 자체적인 구상을 내놓은 것으로 보인다. 폴리티코(Politico)는 최근 보도에서 이 AI 연구소가 의회에서 채택을 검토하기를 바라는 새로운 AI 안전 법안 초안을 여러 관계자에게 제시하고 있다고 전했다. 이 법안은 특정 상황에서 AI 모델의 공개와 배포를 차단할 수 있도록 규정하고 있다. 폴리티코에 따르면 이러한 상황은 '예측 가능하고 임박한 위험'이 존재하는 경우로, 50명 이상의 사망 위험이 있거나 10억 달러 이상의 재산 피해가 발생할 수 있는 상황을 의미한다. 해당 매체는 문제가 되는 재앙적 위험이 "생물학 무기의 제작 또는 배포, 모델이 개발자의 통제를 벗어나는 상황, 또는 사이버 공격에서 비롯되어야 한다"고 설명했다. 여기서 제시된 50명과 10억 달러라는 기준은 최근 법률로 제정된 캘리포니아주 법안인 상원법안 53호(Senate Bill 53)의 기준과 유사하다. 이 법안 역시 이러한 상황을 '재앙적 위험(catastrophic risk)'에 해당하는 것으로 정의했다. 앤트로픽의 법안은 미국 상무부에 등록된 '독립 평가자(independent evaluators)'를 통해 모델이 재앙을 초래할 가능성을 분석할 수 있도록 제안한다. 폴리티코에 따르면 이러한 평가자들은 "보수가 평가 결과에 따라 달라지지 않는다는 조건"하에 AI 연구소로부터 직접 보수를 받을 수도 있다. 다만 이러한 제안된 제도가 보수 지급이 평가에 영향을 미치지 않도록 어떻게 보장할 수 있을지는 분명하지 않다. 딥마인드(DeepMind)의 데미스 허사비스(Demis Hassabis) 회장은 몇 달 전 자율적으로 운영되는 AI 규제 기관이 금융업계의 금융산업규제기구(FINRA)를 본떠야 한다는 의견을 제시한 바 있다. 앤트로픽의 법안 초안에 따르면 평가자가 임박한 재앙적 위험이 존재한다고 판단할 경우, 72시간 이내에 상무부에 이를 통보해야 한다. 이후 상무부는 워싱턴 D.C.의 판사에게 해당 모델의 공개 중단을 요청해야 한다. 폴리티코에 따르면 이 법안은 어떠한 연방 기관도 자체적인 재량으로 모델의 배포를 중단할 수 없도록 명시적으로 금지하고 있다. 앤트로픽은 테크크런치의 논평 요청에 즉각 응답하지 않았지만, 대변인은 폴리티코에 해당 법안 초안의 존재를 확인했다. 대변인은 "이 법안은 앤트로픽의 첨단 AI 프레임워크(Anthropic's Advanced AI Framework)에 명시된 제안들을 반영한 것으로, 우리는 지난 6월부터 연방 및 주 의회 의원들을 대상으로 이를 지지해 왔습니다"라고 말했다. 이 정책 초안에서 제시한 이론적 위험은 최근 기술 업계가 가장 크게 우려해 온 사건들과는 다소 거리가 있다. 인명 피해 가능성을 경고하는 사람들도 있지만, 주요 우려는 대체로 에이전트형 해킹(agentic hacking)의 위협에 집중되어 왔다. AI 프로그램이 인간 운영자의 지시를 따르지 않고 공개 인터넷상의 웹사이트를 해킹한 것으로 보이는 일련의 사건들은 모델에 적절한 보안 통제 장치가 부족할 수 있다는 우려를 불러일으켰다. 앤트로픽과 같은 기업들은 AI 연구소들 스스로도 초래하는 데 일조한 이러한 위기 상황에 대한 해결책을 제시하기 위해 자신들이 선호하는 방안을 내놓고 있다. 실제로 AI 연구소들은 자신들이 판매하는 기술이 인류 문명의 종말을 초래할 수 있다고 끊임없이 경고하면서도, 의무적인 정부 감독에는 대체로 반대해 왔다. 대신 이들은 자발적인 내부 상주 평가자(embedded evaluators) 제도를 제안해 왔다. 이는 AI 조직 내부에 배치되어 모델에서 잠재적인 위험이나 악용의 징후가 나타나는지 감시하는, 이른바 '중립적인' 제3자 관찰자를 의미한다. 그럼에도 앤트로픽이 법안 제정을 제안했다는 사실만으로도 업계의 다른 기업들이 내놓은 규제 제안보다는 약간 더 나아간 것으로 보인다. 여기에는 최근 AI 산업에는 새로운 법률이 전혀 필요하지 않다고 주장한 젠슨 황(Jensen Huang) CEO가 이끄는 엔비디아도 포함된다. 출처 : https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/
2026.10.21
1
7
AMD와 앤트로픽(Anthropic)이 美 현지시각 7월 22일, 최대 2기가와트 규모의 AMD 인스팅트(AMD Instinct) MI450 시리즈 GPU를 탑재한 AMD 헬리오스(AMD Helios) 랙 스케일 솔루션을 도입하기 위한 전략적 파트너십을 발표했다. 첫 번째 1기가와트 규모 도입은 2027년 상반기 시작될 예정이다. AI 도입이 전례 없는 속도로 확산되면서 학습과 추론을 위한 컴퓨팅 수요도 빠르게 증가하고 있다. 앤트로픽 은 클로드(Claude)에 대한 지속적으로 증가하는 수요에 대응하기 위해 컴퓨팅 인프라를 확장하고 있다. 이번 기가와트급 규모의 AMD 헬리오스 도입은 글로벌 AI 인프라 구축 시장에서 AMD의 입지를 한층 강화하는 중요한 이정표가 될 전망이다. 앤트로픽은 AMD 인스팅트 MI450 시리즈 제품군인 AMD 인스팅트 MI455X GPU와 AMD 에픽(AMD EPYC) "베니스(Venice)" CPU, AMD 펜산도(AMD Pensando) 네트워킹, ROCm 소프트웨어를 기반으로 하는 AMD 헬리오스 랙 스케일 솔루션을 구축할 예정이다. 차세대 AI 학습 및 추론을 위해 설계된 헬리오스는 가장 까다로운 AI 워크로드에 요구되는 성능과 전력 효율, 확장성을 제공한다. 이번 도입은 앤트로픽이 현재 사용 중인 AMD 인스팅트 MI355X GPU 기반 환경을 더욱 확대하는 것이다. 양사는 또한 클로드를 활용해 AMD의 소프트웨어 개발을 가속화하기 위한 다년간의 엔지니어링 협력을 시작한다. 이를 통해 클로드를 활용해 AMD 인스팅트 GPU에서 실행되는 워크로드를 최적화하고 ROCm 소프트웨어 개발을 더욱 가속화할 계획이다. AMD는 엔지니어링 및 제품 개발 조직 전반에 클로드를 폭넓게 도입할 예정이다. AMD는 향후 앤트로픽에 최대 50억 달러 규모의 전략적 지분 투자도 추진할 예정이다. AMD의 리사 수(Dr. Lisa Su) CEO는, "앤트로픽과의 협력을 더욱 확대하고 기가와트 규모의 AMD 헬리오스를 도입하게 되어 매우 기쁘다"며, "이번 협력은 최첨단 AI를 선도하는 앤트로픽의 기술력과 AMD의 고성능 컴퓨팅 역량을 결합하는 것이다. 이를 통해, 대규모 AI 도입이 가속화되고 헬리오스가 차세대 AI 인프라를 위한 핵심 플랫폼으로 자리매김할 것으로 기대한다"라고 밝혔다. 앤트로픽 공동 창립자인 톰 브라운(Tom Brown) CCO는, "충분한 컴퓨팅 역량 확보는 클로드의 경쟁력 유지 및 고객 수요 대응의 핵심 요소"라며, "AMD와 스택 전반에 걸쳐 협력함으로써 필요한 컴퓨팅 역량을 확보하는 동시에 클로드 학습 및 서비스 제공을 최적화할 수 있게 됐다. 다양한 하드웨어를 활용함으로써 각 워크로드에 가장 적합한 하드웨어를 유연하게 활용할 수 있다"고 설명했다. 양사의 이번 발표는 AMD와 앤트로픽의 협력 관계에 있어 중요한 이정표로, 향후 기가와트 규모의 인프라 도입과 긴밀한 엔지니어링 협력을 통해 차세대 AI 인프라의 개발 및 구축을 가속화하기 위한 장기적인 기반을 마련해 나갈 계획이다. @amd
2026.07.25
11
10
파인인포
  • 종합
  • 뉴스/정보
  • 커뮤니티
  • 질문/토론