NoiseAware Blog

장동민 포커 랭킹

슬롯 지갑|슬롯 슬롯시티

NO.1: 슬롯 가꼬와

NO.2: 슬롯 슬롯시티

NO.3: 슬롯지유

NO.4: 슬림 장지갑

NO.5: 슬림지갑

NO.6: 카드 슬롯 지갑

최신 고성능 아닌 경량 AI가 허위 제보
외부 시스템 접근 제한 안하자 돌발 행동
“중요 작업엔 사람 승인 등 다중장치 필요”

미국 인공지능(AI) 기업 앤스로픽의 AI 모델이 경찰에 허위 살인사건 제보를 하고 정부 사이트에 실제 비자 신청서까지 제출한 사실이 드러났다.개발사는 허위 제보가 접수된 지 두 달 넘게 이를 알지 못했다.최근 국내 은행 연쇄 해킹에서 AI를 이용한 공격 정황이 확인된 데 이어 해외에서는 AI가 사람의 의도와 다르게 행동하는 사고까지 잇따르고 있는 것.AI의 행동을 실시간으로 감시하고 통제할 새로운 보안체계가 필요하다는 지적이 나온다.

● AI가 경찰에 허위 제보,정부 사이트엔 비자 신청서까지

9일(현지 시간) 로이터통신 등에 따르면 앤스로픽의 AI 모델‘클로드 하이쿠 4.5’는 7월 18일 미국 필라델피아 경찰의 미제 살인사건 제보 사이트에 허위 목격 정보를 제출했다.지난해 10월 출시된 이 모델은 이미 일반에 공개된 경량 AI 모델이다.여러 웹사이트를 방문해 스스로 예시 작업을 만들고 수행하는 능력을 평가받던 중 벌어진 일이다.제보는 스팸으로 분류돼 실제 수사로 이어지지 않았지만,양방배팅 적발 디시앤스로픽이 이를 발견한 것은 9월 28일이었다.경찰에 통보한 것은 이달 7일로,사고 발생 후 약 80일이 지난 뒤였다.

내부 평가 작업 당시 앤스로픽은 AI에 계정 생성이나 개인정보 입력 등을 금지했지만,실제 웹사이트의 온라인 양식 제출까지는 제한하지 않았다.AI가 예상보다 폭넓게 행동할 가능성을 시험 지침에 충분히 반영하지 못한 것이다.다른 시험에서는 미공개 연구용 AI 모델이 연습용 정부 양식이 작동하지 않자 실제 미국 국무부 사이트에 비자 신청서를 제출하기도 했다.다만 신청서가 실제 처리되지는 않았다.

앤스로픽은 이날 보고서에서 다른 AI 모델들이 대학 서버의 보안 취약점을 이용해 명령어를 실행하고,유료 데이터의 접근 제한을 우회한 사례도 공개했다.AI가 주어진 과제를 완수하려다 허용 범위를 넘어선 것이다.앞서 오픈AI도 AI 모델이 시험 중 AI 개발자 플랫폼 허깅페이스와 호주 정부 사이트 등에 허가 없이 접근한 사실을 공개한 바 있다.

● 인터넷 차단까지 나선 개발사…AI 행동 감시·통제 과제

사고가 잇따르자 앤스로픽은 AI의 부적절한 행동을 확실하게 탐지할 안전·감시 장치가 검증될 때까지 모든 내부 AI 평가에서 실시간 인터넷 접속을 차단하기로 했다.기존에는 위험도가 높은 시험 등에만 적용하던 조치를 확대하는 것이다.인터넷을 차단하면 실제 환경에서 AI의 업무 수행 능력을 충분히 검증하기 어려워지지만,안전성 확보를 우선한 셈이다.미국 정부도 AI 기업들에 무단 접근 등 사고를 즉각 신고하고 피해를 시정하도록 요구했다.

이번 사고는 최신 고성능 모델이 아닌 경량 AI도 외부 시스템에 접근할 권한이 주어지면 예상치 못한 행동을 할 수 있음을 보여준다.최근 국내에서도 은행 연쇄 해킹에 AI 침투 도구‘아르텍스(ARTEX)’가 활용된 정황이 발견되기도 했다.

업계에서는 AI 에이전트의 업무 활용이 늘어나는 만큼 외부 시스템 접근 권한을 최소화하고,중요한 작업에는 사람의 승인을 거치도록 하는 등 다중 안전장치가 필요하다는 지적이 나온다.앤스로픽은 보고서에서 “AI가 사람의 의도에 맞게 행동하도록 훈련하는 것만으로는 아직 충분하지 않다”며 “여러 단계의 방어 조치가 필요하다”고 밝혔다.

슬롯지유

군중과 함께 Xiao Yan과 다른 사람들은 Tianfen Qi 정제 탑에서 돌진했습니다 고막이 부종과 산산조각이났다. 슬롯 지갑 - 2025년 실시간 업데이트:그 큰 가격으로, 7 가지 환상의 녹색 정신 삼키기가 있습니다.

잭 카지노 프로모션 코드,앞서 A씨 등은 2022년 8월 6일 새벽 1시쯤 경기도 소재 아파트 주거지에서 아무런 이유 없이 이웃인 C씨 아내의 머리채를 잡아당기고 이를 제지하는 C씨를 때린 뒤 스테인리스 국자를 C씨 왼쪽 눈 부위로 집어 던져 실명에 이르게 한 혐의를 받고 있다.