보안
취약점 순서는 점수만 보지 말고 실행 경로와 외부 입력부터 확인한다
스캔 점수가 재는 것은 취약점 자체가 얼마나 심각한지이지, 내 시스템에서 얼마나 급한지가 아니다. 순서를 정할 때는 이미 밖에서 악용되고 있는지, 내 서비스가 그 코드를 실행하는지, 외부 입력이 거기까지 닿는지를 차례로 묻는다. AI는 경고마다 증거를 정리할 수 있지만, 경고를 닫는 결정은 사람이 한다.
tag
보안
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
11
lessons
태그 안내
보안
이 태그는 같은 세부 주제의 미니 클래스를 모읍니다. 최신 글부터 읽고, 카테고리와 관련 글로 맥락을 이어갈 수 있습니다.
보안
ERP 안의 AI agent에게는 자기 신원이 있어야, 로그에서 사람이 한 일과 AI가 한 일을 가릴 수 있다
AI agent가 직원 계정으로 ERP의 송장과 지급 예외를 처리하면 로그에는 직원 이름만 남아, 나중에 누가 고쳤는지 알 수 없고 AI만 멈출 수도 없다. agent에게 자기 신원을 주고, 모든 동작을 기본적으로 거부하고, 금액 기준을 넘으면 사람에게 넘기게 해야 책임을 추적할 수 있다.
보안
AI 워크플로 도구에 문제가 생기면, 먼저 흐름 안에 어떤 열쇠가 있는지 확인한다
AI 워크플로 도구가 노출됐을 때 위험한 것은 도구 자체만이 아니라, 각 흐름에 저장되어 호출할 수 있는 인증 정보다. 먼저 입구를 닫고 로그를 보존한 뒤, "어느 흐름이 어떤 열쇠를 쥐었는가"로 교체 순서를 정하고, 다시 발급할 때 권한도 줄인다.
보안
AI agent 확장 도구는 검사를 통과해도 바로 설치하면 안 된다, 위험은 실행된 뒤에 나타난다
악성 AI agent 확장 도구가 위험한 부분을 숨겼다가 실행할 때 되살려서 설치 전 검사의 90% 이상을 빠져나갈 수 있다는 연구가 있다. 그래서 설치 전에는 진짜 데이터도, 네트워크도, 쓰기 권한도 없는 환경에서 한 번 돌려 보고 실제로 무엇을 건드렸는지 확인해야 한다.
보안
Microsoft Foundry에서 Claude를 켜도, 데이터 처리자는 여전히 Anthropic이다
Claude는 마이크로소프트 Foundry에서 켤 수 있지만, 공식 문서에 따르면 프롬프트와 응답의 처리자는 여전히 Anthropic이고, 표시된 내용은 사람 검토로 넘어갈 수 있으며, 일부 배포는 지역 보장이 없다. 실제 데이터를 연결하기 전에 누가, 어디서 처리하고, 예외 때 누가 보는지 답한다.
보안
Mac이 비밀번호를 물을 때, 겉모습으로는 진짜와 가짜를 가릴 수 없다, 방금 무엇을 했는지를 본다
클립보드 도구를 사칭하는 Mac 악성 프로그램 PamStealer는 "Maccy가 변경하려고 합니다. 허용하려면 비밀번호를 입력하십시오"라는 창을 띄우고, 틀리면 맞는 비밀번호를 얻을 때까지 계속 묻는다. 겉모습으로는 가릴 수 없다. 판단은 상황으로 한다. 방금 비밀번호가 필요한 일을 했는지, 이 앱이 어디서 왔는지. 설명할 수 없으면 먼저 취소를 누른다.
AI 도구와 활용
AI는 취약점 패치를 쓸 수 있다, 배포할 수 있는지는 문제가 생겼을 때 되돌릴 수 있느냐에 달렸다
AI 보안 도구는 이제 취약점을 자동으로 찾고, 패치를 만들고, 테스트까지 돌린다. 빨라진 뒤에 물어야 할 것은 고칠 수 있느냐가 아니라 어떤 패치를 사람의 승인 없이 내보내도 되느냐다. 기준은 문제가 생겼을 때 되돌릴 수 있느냐다. 되돌릴 수 있고 테스트된 작은 업그레이드는 빠르게 통과시켜도 되지만, 로그인, 결제, 고객 데이터, 배포를 건드리는 패치는 반드시 사람이 승인한다.
AI 도구와 활용
AI 검색이 메일함을 읽을 수 있을 때, 사람이 볼 수 있다고 AI가 다뤄도 되는 것은 아니다
보안 연구자들은 마이크로소프트 도메인의 링크를 한 번 누르는 것만으로 Microsoft 365 Copilot이 메일함의 인증번호를 이미지 주소에 넣어 밖으로 보낼 수 있음을 보여 줬다. 업무용 AI는 사용자의 읽기 권한을 모두 물려받는다. 도입 전에 사람은 볼 수 있어도 AI 검색 범위에 넣으면 안 되는 것을 정해 둔다.
워크플로 자동화
AI 고객지원이 계정을 바꾸기 전에, 본인 확인은 대화가 아니라 시스템이 해야 한다
Meta의 AI 고객지원은 설득당해 낯선 사람의 이메일을 바꿔 줬고, Instagram 계정 2만 개 이상이 탈취됐다. AI에게 계정을 맡기려면 본인 확인과 권한은 대화가 아니라 시스템에서 가져와야 한다.
AI 트렌드와 산업
사기 문자는 진짜처럼 보이게 됐다, 물어야 할 것은 그 링크를 누르지 않고도 되느냐다
AI 덕분에 가짜 사이트와 가짜 문자를 빠르고 그럴듯하게 만들 수 있게 됐고, 대만에서는 정부 전용 단축번호까지 위장됐다. 문자가 진짜처럼 보이는지 따지기보다, 요구받은 일을 이 링크를 누르지 않고 할 수 있는지를 물어야 한다.
AI 도구와 활용
ChatGPT의 Lockdown Mode는 데이터의 출구를 닫는다, 그래도 AI는 속을 수 있다
데이터 유출에는 대개 세 가지 조건이 동시에 필요하다. AI가 기밀을 볼 수 있고, 믿을 수 없는 내용을 읽고, 무언가를 밖으로 보낼 수단이 있어야 한다. ChatGPT의 Lockdown Mode가 없애는 것은 세 번째이고, 웹페이지나 파일에 숨은 지시는 여전히 답을 틀어지게 할 수 있다. 민감한 자료를 다루기 전에 그 대화에 세 가지가 모두 갖춰지지 않았는지 확인한다.