의견
워싱턴: 도널드 트럼프 대통령이 목요일 과학적 사실을 훼손하고 위험한 가스를 규제하는 정부의 능력을 제거함으로써 화석 연료 살찐 고양이를 도왔을 때, 한 기자는 더 뜨거운 행성의 실제 위험을 걱정하는 사람들에게 그가 무슨 말을 하는지 물었습니다.
“나는 그들에게 걱정하지 말라고 말했습니다.” 그는 쏘아붙였습니다.
트럼프 행정부는 트럼프 대통령의 성급한 정책에 반발하는 사람들을 폄하하는 신조어까지 만들었다. 패닉에 빠진다는 뜻의 패니칸(panican)이다.
폭력과 위협이 만연한 세상에서 우리는 책임자로부터 걱정하지 말라는 말을 끊임없이 듣고 있습니다.
무더운 지구에 대해 걱정하지 마십시오. Jeffrey Epstein이 착취하는 젊은 여성을 학대하면서 도망가는 모든 강력한 소름 끼치는 것에 대해 걱정하지 마십시오. 그 대신 수요일 의회 청문회에서 거칠고 회피적인 팸 본다이(Pam Bondi)가 제안한 것처럼 상승하는 다우지수의 아름다움을 보라.
트럼프 가문의 비윤리적인 일확천금 계획에 대해 걱정하지 마십시오. 점점 더 잘 연결된 사람들을 수용하는 경제에 대해 걱정하지 마십시오. 대통령이 일방적으로 주 선거 규칙을 정하겠다고 위협하는 것에 대해 걱정하지 마십시오. 의회는 망할 것입니다.
실리콘밸리의 미래는 백악관에 있는 조프리 왕의 손바닥에 기름칠을 해왔습니다. 그리고 이제 우리는 지금까지 만들어진 기술 중 가장 골치아픈 기술인 인공 지능에 대한 보호 장치에 대해 걱정하지 말라는 말을 들었습니다.
저는 2017년에 Elon Musk를 인터뷰했습니다. 그 당시 그는 한때 Epstein 섬에서 가장 난잡한 파티에 참석하는 것만큼 AI 안전에 관심을 갖고 이제는 X의 인종에 대한 이상한 게시물을 끊임없이 공유하는 것에 관심을 가졌습니다. 그는 인류의 운명이 알고리즘이 기술 및 정부 엘리트의 손에 은폐되고 집중되는 것을 허용하지 않는 데 달려 있다고 말했습니다.
머스크는 “황제가 마르쿠스 아우렐리우스라면 정말 좋다”고 말했다. “황제가 칼리굴라라면 별로 대단한 일이 아니다.”
백악관에 있는 우리 사람이 아니라고 가정해 봅시다. 마르쿠스 아우렐리우스.
제가 당시 실리콘밸리에서 취재할 당시 AI가 우리보다 더 똑똑해지면 어두운 면으로 뛰어들 것인지에 대한 논쟁이 있었습니다.
그러나 그 이후로 한때 좋은 의도를 가졌던 기술 신들조차 에로티카를 포함해 AI로 수십억 달러를 벌어들이는 것에 유혹을 받아 어두운 면으로 빠져들었습니다. 우리를 더 나은, 더 안전한 미래로 인도해야 했던 이 천재들은 역사상 가장 큰 매진을 기록했습니다.
OpenAI의 CEO인 Sam Altman은 “성인 사용자를 성인처럼 대하고 싶다”며 에로티카, 즉 “성인 모드”를 환영했습니다.
머스크가 AI 모델의 새로운 기능을 보여주기 위해 AI가 생성한 비키니 사진을 게시하자 사람들은 이를 사용했습니다. 온라인에서 여성의 사진을 조작하다옷을 벗는다.
기술 형제들은 트럼프 세계에서 영향력을 구매할 수 있는 능력에 매우 기뻐하고 있습니다. (예, 제프 베조스(Jeff Bezos)입니다. 에 대해 이야기 멜라니아.)
처럼 열광한 보고된 바에 따르면, OpenAI의 회장인 Greg Brockman은 2025년 트럼프의 개인 기부자 중 최대액이 2,500만 달러(3,500만 달러)에 달했습니다. AI 규제를 선호하는 정치인과 싸우는 PAC에 추가로 2,500만 달러가 투입될 예정입니다. OpenAI의 원래 임무는 인류를 보호하는 것이었지만 그 돈은 어디에 있습니까?
지난 주 여러 Paul Revere의 경고로 기술계는 전율했습니다.
두 소규모 기술 회사의 CEO인 Matt Shumer가 X에 올린 “Something Big Is Happening”이라는 제목의 긴급 게시물이 입소문을 탔습니다. 그는 AI가 우리가 생각하는 것보다 훨씬 빠르게 도약하고 있다고 경고했다.
“미래는 극히 소수의 사람들에 의해 형성되고 있습니다. 소수의 회사에 있는 수백 명의 연구원… Open AI, Anthropic, Google DeepMind”라고 그는 썼습니다. “나는 더 이상 내 업무의 실제 기술 작업에 필요하지 않습니다. AI에게 원하는 것을 말하고 컴퓨터에서 4시간 동안 자리를 비운 다음 돌아와서 작업이 완료되었는지 확인합니다. 잘했습니다. 내가 직접 한 것보다 더 잘했습니다.” 이제 그는 OpenAI의 최신 모델이 판단력을 보여주고 있으며 자체적으로 올바른 결정을 내리는 방법을 알고 있다고 썼습니다.
월요일, 인류학 AI 안전 연구원인 Mrinank Sharma는 직장을 그만두고 X에 AI, 생물 무기 및 연쇄 위기로 인해 “세계가 위험에 처해 있다”는 종말론적 경고를 게시했습니다.
Anthropic의 CEO인 Dario Amodei는 AI의 놀라운 힘을 인정하는 가장 책임감 있는 기술 임원으로, AI가 “종으로서 우리가 누구인지 테스트”하고 인류가 이 “거의 상상할 수 없는 힘”을 처리할 성숙도를 가지고 있는지 밝힐 것이라고 말했습니다. (월스트리트저널 금요일에 회사의 AI 도구인 클로드(Claude)가 미군이 베네수엘라 대통령 니콜라스 마두로(Nicolás Maduro)를 체포하는 데 도움을 주었다고 보고했습니다.)
Sharma는 인류가 AI를 다룰 만큼 성숙했는지 확신하지 못합니다. “나는 우리의 가치가 우리의 행동을 지배하도록 하는 것이 얼마나 어려운지 반복해서 보았습니다.”라고 그는 썼습니다.
그는 영국으로 사라져 시학 학위를 취득할 것이라고 말하며 AI 지배력을 예고하는 문구가 포함된 William Stafford의 시로 마무리했습니다. “당신이 하는 일은 시간의 전개를 멈출 수 없습니다.”
오픈AI(OpenAI) 연구원 조 히치그(Zoe Hitzig)도 월요일 사임했다. 게스트 에세이에서 뉴욕 타임즈그녀는 OpenAI가 자신이 가장 두려워하는 두 가지 결과, 즉 “무료로 사용하는 사람들을 조작하는 기술과 그것을 사용할 여유가 있는 소수에게만 혜택을 주는 기술”에 대한 자신의 작업을 여전히 뒷받침하고 싶어한다는 믿음을 잃었다고 말했습니다.
또 다른 OpenAI 임원인 Ryan Beiermeister는 ChatGPT의 AI 에로티카 출시에 대해 불만을 토로한 후 안전 부서에서 일자리를 잃었습니다. 신문 공개.
바이어마이스터, 신문 는 회사가 아동 착취 콘텐츠를 중단하고 10대 청소년의 성인 콘텐츠를 차단할 만큼 충분한 가드레일을 마련하지 않았다고 생각했습니다.
오픈AI는 바이어마이스터의 퇴사가 남성 동료에 대한 성차별 때문이라고 주장했다. 그녀는 이에 대해 완강히 부인했다. 신문.
기술 군주들의 암담한 확신에도 불구하고, 일부 AI 내부자들은 그들이 보고 있는 것에 경악하고 있습니다.
담당자들은 걱정하지 말라고 하더군요. 하지만 우리는 걱정해야 합니다. 밖이 점점 무서워지고 있어요. 그것에 대해 인공적인 것은 없습니다.
이 기사는 원래 다음 페이지에 게재되었습니다. 뉴욕 타임즈.
오피니언 뉴스레터는 자신의 의견에 도전하고 옹호하며 정보를 제공하는 주간 견해를 모아 놓은 것입니다. 여기에서 가입하세요.