팔란티어가 찾고, 앤스로픽이 분석하고, 인간이 발사 버튼... AI가 짠 '장대한 분노'

팔란티어가 찾고, 앤스로픽이 분석하고, 인간이 발사 버튼... AI가 짠 '장대한 분노'

https://www.msn.com/ko-kr/money/topstories/%ED%8C%94%EB%9E%80%ED%8B%B0%EC%96%B4%EA%B0%80-%EC%B0%BE%EA%B3%A0-%EC%95%A4%EC%8A%A4%EB%A1%9C%ED%94%BD%EC%9D%B4-%EB%B6%84%EC%84%9D%ED%95%98%EA%B3%A0-%EC%9D%B8%EA%B0%84%EC%9D%B4-%EB%B0%9C%EC%82%AC-%EB%B2%84%ED%8A%BC-ai%EA%B0%80-%EC%A7%A0-%EC%9E%A5%EB%8C%80%ED%95%9C-%EB%B6%84%EB%85%B8/ar-AA1Xx74s?ocid=msedgdhp&pc=U531&cvid=69aa3d5d45324fa0bbabc3453e0fb364&ei=53

드디어 인공지능에 의한 인류 말살이 시작된것 같다

이란 공격에 엔트로픽의 클로드가 공습에 관여하면서

"

미국의 이란 공습 ‘장대한 분노’ 작전은 “AI가 주도한 최초의 공습”이란 평가가 나온다

"

이런 이야기가 나오는건....

과거 이스라엘도 비슷한 방식으로 폭격 목표를 찾아서

폭격하긴 했지만.....

과거보다 더 광범위하고 과거보다 더 인간을 위협

하고 있다는 점에서 주목해야 한다

정보 수집부터 목표물의 타격까지 전 과정

즉 킬 체인 전체에서 AI가 중요한 역할을 맡고 있는데

과거에는 ....

정찰기가 날아가서 사진을 찍고 돌아와서 그걸 분석했고

인공위성으로 사진을 찍을때도 그 데이터를 사람이

분석했었다

오차가 있을수도 있었지만 담당자들은 늘 실수의 가능성

과 오판이나 적의 기만일수도 있다는 점도 생각했다

하지만

저렇게 AI가 데이터의 수집부터 위험도 판정과

우선순위 선정까지 맡아버리면

실제로 발사버튼을 누르는 사람들은 그 어떤

책임도 지지않기 때문에 과거보다 더 쉽게

전쟁에 돌입하게 된다

"인공지능이 위험하다고 판단했기때문에"

나는 발사버튼을 눌렀다

라고 변명할수는 있지만....

"인공지능이 적이 핵미사일을 발사했다"

라고 오판해서 발사버튼을 누르라고 한다면

그때도 인공지능탓을 할것인가?