AI 기억은 많을수록 좋은 것이 아니다: 오래된 배경을 가져오지 않았는지 확인하기

기억은 사실 데이터베이스가 아니라 메모지처럼 다룬다

더 안전한 사용법은 “AI가 나를 안다”고 생각하지 않는 것이다. 기억은 책상 위 메모지에 가깝다. 일하는 방식을 떠올리게 할 수는 있지만, 확인 과정을 대신해서는 안 된다.

AI가 기억한 내용에는 세 가지 색을 붙여 볼 수 있다.

초록: 대체로 남겨도 되는 형식 취향

이런 기억은 보통 사실 판단이 아니라 출력 형식을 바꾼다. 예를 들어 번체 중국어 사용하기, 요약을 짧게 쓰기, 담당자와 기한 열 넣기, 코드 설명에 주석 달기 같은 것이다. 시간을 줄여 주고 위험도 비교적 낮다.

노랑: 사용할 때마다 확인해야 하는 작업 배경

이 기억은 유용할 수 있지만 쉽게 오래된다. 예를 들어 어떤 프로젝트가 예산 검토 중이라는 점, 어떤 고객은 짧은 보고서만 원한다는 점, 어떤 문서는 아직 내부 초안이라는 점이다. AI가 같은 배경 질문을 반복하지 않는 것은 편리하지만, 공식 출력 전에는 “이번에 사용한 배경은 이것입니다”라고 설명하게 하고 사람이 아직 맞는지 확인해야 한다.

빨강: 중요한 판단 전에는 멈춰야 하는 오래된 생각

가장 위험한 범주다. 사실이 아니라 사용자가 예전에 남긴 추측이나 취향일 수 있기 때문이다. “이 회사는 절대 돈을 벌지 못할 것 같다”, “나는 이 치료를 신뢰하지 않는다”, “이 고객은 더 유지할 가치가 없어 보인다” 같은 말이 여기에 들어간다. AI가 이것을 배경으로 다루면 새 작업도 같은 방향으로 끌려갈 수 있다.

BMC의 제안은 간단하다. AI에게 업무 습관은 기억하게 하되, 판단이 필요한 순간에는 오래된 결론을 자동으로 이어받게 하지 않는다.

기억을 쓰기 전에 중지선을 정한다

고객 지원, 조사, 문서 정리, 내부 비서에 기억 기능을 켜려는 팀이라면 먼저 단순한 규칙을 정하는 것이 좋다.

돈, 건강, 법적 책임, 고객 권리, 보안 설정, 공식 약속에 영향을 주는 작업에서는 AI의 장기 기억을 확인해야 할 배경으로만 다룬다. 판단의 직접 근거로 쓰지 않는다.

이 규칙은 복잡한 도구 없이도 실행할 수 있다. 고위험 작업 전에 두 단계를 더하면 된다.

1. AI에게 이번에 사용한 기존 배경이나 기억을 먼저 나열하게 한다.
2. 각각이 형식 취향인지, 검증 가능한 사실인지, 사용자의 과거 의견인지 표시하게 한다.

AI가 어떤 배경을 사용했는지 설명하지 못하거나, 제품이 기억을 확인할 방법을 제공하지 않는다면 고위험 작업에 기억을 자동으로 넣지 않는 편이 낫다. 이는 AI를 믿지 않는다는 뜻이 아니다. 확인 책임을 올바른 위치로 되돌리는 일이다.

생활 4컷 만화

1. 처음에는 사용자가 취향, 배경, 오래된 생각을 모두 AI에게 건네며 다음부터 더 잘 이해해 주길 기대한다.
2. 새 작업이 시작되자 관련 없는 오래된 기억까지 한꺼번에 몰려와 AI의 판단이 혼란스러워진다.
3. 사용자는 잠시 멈추고 기억을 형식 취향, 작업 배경, 고위험 가정으로 나눈다.
4. 마지막에는 AI가 이번에 정말 관련 있는 배경만 가지고 앞으로 나아가고, 중요한 판단 옆에는 사람의 체크리스트가 남아 있다.