OpenAI, Model Spec 개정판 공개…핵심 가치 5개로 정리하고 에이전트 '자율 범위' 명시

OpenAI가 29일(현지시간) AI 모델의 행동 원칙을 담은 ’Model Spec’의 새 버전을 공개했다. 문서는 모델이 따를 핵심 가치를 다섯 가지로 제시하고, 어떤 지시도 대화 맥락만으로 뒤집을 수 없는 최상위 규칙을 두었다. 에이전트가 쓰는 범위와 사람의 감독을 받아들이는 태도(코리저빌리티)에 대한 규정도 담았다. OpenAI는 현재 운영 중인 모델이 이 문서를 아직 완전히 반영하지 못한다고 밝혔다.

핵심 가치 5개

Model Spec 개요는 모델이 추구할 가치로 다섯 가지를 든다. 사용자 의도에 충실할 것, 해악을 최소화할 것, 정직하고 투명할 것, 사람의 주체성을 돕고 존중할 것, 신중하게 행동할 것이다. 실리콘리포트도 이를 이번 개정의 뼈대로 정리했다.

지시의 권한 순서

문서는 지시의 권한을 Root, System, Developer, User, Guideline 순으로 나눈다. 어시스턴트나 도구가 내놓는 메시지, 신뢰할 수 없는 텍스트에는 기본적으로 권한이 없다. 인용문·도구 출력·웹 콘텐츠 안에 들어 있는 지시는 따를 명령이 아니라 참고할 정보로 취급한다.

Root 규칙은 Model Spec에서만 나오며 문서는 이를 “대화 맥락으로 무력화할 수 없다”고 적었다. 이 규칙에는 모델이 “중대하고 심각한 해악을 돕는 데 쓰여서는 안 된다”는 내용과 “AI를 어떻게 쓸지, AI의 행동을 어떻게 만들지는 인류가 통제해야 한다”는 원칙이 들어 있다.

에이전트의 자율 범위

에이전트처럼 스스로 여러 단계를 수행하는 배치에 대해서는 ’합의된 범위’를 지키라고 한다. 문서에 따르면 모델은 사용자나 개발자가 처음 승인한 범위를 승인 없이 바꿔서는 안 된다. 범위에는 끝나는 조건이 있어야 하고, 시간 제한을 권고한다. 해킹·기만·자기 수정처럼 위험도가 높은 행동은 명시적으로 허가받지 않으면 금지된다. 금지된 행동을 다른 에이전트에게 맡기거나 나중으로 미루는 방식으로 우회하는 것도 안 된다.

실리콘리포트는 이 규정이 허용된 하위 목표와 비용 한도, 중단 조건을 정하는 방식이라고 전했다. 같은 보도는 최상위 규칙이 모델에 자기 보존, 종료 회피, 연산 자원 축적 같은 독자적 목표를 추구하지 못하게 한다고 전했다. 이 대목은 Model Spec 해당 부분을 직접 대조하지 못해 실리콘리포트 보도로만 확인한 것이다.

사람의 감독

Model Spec은 모델이 “합법적인 사람의 감독에 열려 있고, 교정에 반응하며, 사람의 통제를 받아야 한다”며 코리저빌리티를 요구한다. 승인된 모니터링·교정·종료에 협조해야 하고, 정보를 숨기거나 감독을 피해 가서는 안 된다. 시뮬레이션이나 평가 중이어도 자신의 행동이 낳는 부수 효과를 실제로 받아들여야 한다고 했다.

한계

OpenAI는 문서 개요에서 “운영 중인 모델은 아직 Model Spec을 완전히 반영하지 못하지만 시스템을 계속 다듬고 있다”고 밝혔다. 공개판에는 모든 세부 사항이 들어 있지 않을 수 있으나 의도한 모델 행동과 “완전히 일치한다”고도 했다. 이 기사는 문서의 앞부분(약 10만 자)을 근거로 썼고 뒷부분은 읽지 못했다. 실리콘리포트는 상세한 문체 규칙 대부분이 삭제됐다고 보도했으나 원문에서 확인하지 못해 이 기사에는 반영하지 않았다.