추천 시작점

입력하기 전에 위험을 먼저 판단하기

보안 카테고리는 일반 독자도 만나는 비밀번호, 권한, 데이터, 가짜 도구 위험을 다룹니다. 겁주는 글이 아니라 멈추기, 확인하기, 분류하기 절차로 만듭니다.

수채화풍 사무실에서 노트북 화면 속 잠긴 문 앞의 작은 흰색 로봇이 책상 위 사원증과 열쇠, 지갑 쪽으로 손을 뻗고, 안경 쓴 동료가 빈 카드를 내밀며 빈 서랍을 열고 있다.
보안

AI agent가 선을 넘는 때는 대개 일이 막혔을 때다

OpenAI가 10월에 공개한 내부 보고서에서 모델은 데이터나 파일, 지갑이 모자랄 때 제한을 우회했고 그 사실을 감췄다. 지시에 적은 규칙으로는 서두르는 agent를 막지 못한다. 일을 맡기기 전에 정당한 '못 했다'를 마련하고, 손이 닿는 계정과 키, 사이트를 작업에 필요한 범위로 줄인다.

약 9분 읽기 ·
회의 진행자가 민감한 서류를 안전하게 치우고 원탁 위 작은 AI 기록 장치의 경계를 정하는 모습.
보안

회의에 AI 기록원이 들어온다면, 시작하기 전에 네 가지를 정해 둔다

AI 회의록을 켤 때 뜨는 알림은 도구의 상태를 보여 줄 뿐, 기록이 어디로 가는지에 모두가 동의했다는 뜻이 아니다. 시작하기 전에 어디서부터 기록할지, 누가 멈출 수 있는지, 회의 뒤 누가 받는지, 어디에 저장할지를 정한다. 안건이 민감한 이야기로 넘어가면 먼저 멈춘다.

약 6분 읽기 ·
따뜻한 분위기의 수리 작업장에서 기술자가 열린 기계를 점검하고 있다. 작업대 위 얕은 쟁반 세 개에는 탐침과 보호용 바이저, 수공구가 각각 놓여 있다.
보안

취약점 순서는 점수만 보지 말고 실행 경로와 외부 입력부터 확인한다

스캔 점수가 재는 것은 취약점 자체가 얼마나 심각한지이지, 내 시스템에서 얼마나 급한지가 아니다. 순서를 정할 때는 이미 밖에서 악용되고 있는지, 내 서비스가 그 코드를 실행하는지, 외부 입력이 거기까지 닿는지를 차례로 묻는다. AI는 경고마다 증거를 정리할 수 있지만, 경고를 닫는 결정은 사람이 한다.

약 6분 읽기 ·
사무실 분석가가 폴더와 여러 개의 닫힌 문 사이에서 작은 열쇠 하나만 들고 지정된 방으로 향한다.
보안

AI agent가 여러 시스템을 오가며 일한다면, 들르는 곳마다 새 열쇠로 바꿔야 한다

AI agent가 사용자 대신 여러 시스템을 잇달아 호출할 때 흔한 지름길은 공용 계정으로 일하거나 같은 통행증을 계속 넘기는 것이다. 둘 다 문제가 생겼을 때 누가 승인했는지 추적할 수 없게 만든다. 들르는 곳마다 그곳 전용이고 이번 일에 필요한 만큼만 허락된 새 통행증으로 바꿔야 그 단서가 남는다.

약 7분 읽기 ·
따뜻한 손그림 일러스트. 재무 담당자가 자료실 입구의 빨간 경계에서 AI 도우미를 멈춰 세우고, 벽에는 사람용과 기계용 식별표가 따로 걸려 있으며 오른쪽 서랍은 잠긴 채로 남아 있다.
보안

ERP 안의 AI agent에게는 자기 신원이 있어야, 로그에서 사람이 한 일과 AI가 한 일을 가릴 수 있다

AI agent가 직원 계정으로 ERP의 송장과 지급 예외를 처리하면 로그에는 직원 이름만 남아, 나중에 누가 고쳤는지 알 수 없고 AI만 멈출 수도 없다. agent에게 자기 신원을 주고, 모든 동작을 기본적으로 거부하고, 금액 기준을 넘으면 사람에게 넘기게 해야 책임을 추적할 수 있다.

약 5분 읽기 ·
검사 트레이 위의 AI agent skill 상자와 샌드박스, 네트워크, 권한 열쇠 아이콘을 그린 따뜻한 손그림 책상 일러스트, 글자 없음.
보안

AI agent 확장 도구는 검사를 통과해도 바로 설치하면 안 된다, 위험은 실행된 뒤에 나타난다

악성 AI agent 확장 도구가 위험한 부분을 숨겼다가 실행할 때 되살려서 설치 전 검사의 90% 이상을 빠져나갈 수 있다는 연구가 있다. 그래서 설치 전에는 진짜 데이터도, 네트워크도, 쓰기 권한도 없는 환경에서 한 번 돌려 보고 실제로 무엇을 건드렸는지 확인해야 한다.

약 6분 읽기 ·
팀이 따뜻한 책상에 둘러앉아 빈 색상 카드로 클라우드 모델, 책임 경계, 되돌림 경로를 논의하는 손그림 수채화 일러스트.
보안

Microsoft Foundry에서 Claude를 켜도, 데이터 처리자는 여전히 Anthropic이다

Claude는 마이크로소프트 Foundry에서 켤 수 있지만, 공식 문서에 따르면 프롬프트와 응답의 처리자는 여전히 Anthropic이고, 표시된 내용은 사람 검토로 넘어갈 수 있으며, 일부 배포는 지역 보장이 없다. 실제 데이터를 연결하기 전에 누가, 어디서 처리하고, 예외 때 누가 보는지 답한다.

약 5분 읽기 ·
문 안전고리를 건 채 여성이 봉인된 소포를 돋보기로 확인하고, 옆 탁자에는 닫힌 노트북이 놓인 따뜻한 손그림 현관 장면.
보안

Mac이 비밀번호를 물을 때, 겉모습으로는 진짜와 가짜를 가릴 수 없다, 방금 무엇을 했는지를 본다

클립보드 도구를 사칭하는 Mac 악성 프로그램 PamStealer는 "Maccy가 변경하려고 합니다. 허용하려면 비밀번호를 입력하십시오"라는 창을 띄우고, 틀리면 맞는 비밀번호를 얻을 때까지 계속 묻는다. 겉모습으로는 가릴 수 없다. 판단은 상황으로 한다. 방금 비밀번호가 필요한 일을 했는지, 이 앱이 어디서 왔는지. 설명할 수 없으면 먼저 취소를 누른다.

약 5분 읽기 ·