LLM 지문 검증기

LLM API 핑거프린트 검사기

구매한 API가 정말 표시된 모델을 실행하고 있을까요? 이 도구는 한 단어로 답할 수 있는 프로브 질문을 연속으로 보내 응답 분포의 핑거프린트를 생성한 다음, Jensen-Shannon 발산을 사용해 신뢰할 수 있는 참조 모델과 비교합니다. 모든 작업은 브라우저에서 이루어지며 API 키는 어디에도 업로드되지 않습니다.

방법

어떤 LLM에게든 "1에서 100 사이의 무작위 숫자를 말해 보세요"라고 요청하면 정체가 드러납니다. GPT-4o는 42와 37을 유난히 자주 선택하고, Claude는 47을 선호하며, Llama는 53을 좋아합니다. 이러한 습관은 학습 데이터의 통계에서 비롯되므로 이름 변경, 시스템 프롬프트, 양자화로도 없앨 수 없습니다.

이 도구는 Bruckner의 "One Token Is Enough"(arXiv:2607.10252)에 제시된 검증 프로토콜을 구현합니다. 여러 작업과 언어에 걸쳐 단일 토큰 탐색을 수행하고, 공식 레퍼런스 지문과의 Jensen-Shannon divergence를 기준으로 점수를 계산합니다. 거리가 속한 구간이 판정 결과가 됩니다.

전체 배터리(탐색 16개)는 약 9.5%의 동일 오류율로 검증하며, 표준 단계(탐색 8개)는 약 10.6%입니다. 탐색 문구는 일반적인 대화처럼 보이므로 리셀러가 이를 감지하거나 결과를 조작하기 어렵습니다.

주요 특징

  • API 키는 브라우저에만 보관됩니다. 요청은 테스트하는 엔드포인트로 직접 전송되며 DevTools에서 확인할 수 있습니다.
  • 공개 문서와 참조 데이터를 제공하는 "One Token Is Enough" (arXiv:2607.10252)의 공개된 방법을 구현합니다.
  • 두 가지 모드를 제공합니다. 표시된 모델과 비교해 엔드포인트를 점검하거나, 모든 엔드포인트에서 공유 가능한 AI 무작위성 점검을 실행할 수 있습니다.

사용 방법

01

엔드포인트 입력

기본 URL과 API 키를 입력한 다음, 해당 엔드포인트가 주장하는 모델을 선택하세요. 키는 브라우저 메모리에만 저장되며, 요청은 엔드포인트로 직접 전송됩니다.

02

수백 번 주사위 굴리기

표준 단계는 탐색 8개 × 샘플 25개로 약 200개의 요청을 몇 분 안에 전송합니다. 빠른 단계는 약 1분 동안 60개의 요청을 전송하고, Strict 단계는 16개 탐색을 모두 실행하여 오류율을 약 9.5%까지 낮춥니다.

03

눈금 읽기

거리가 어느 구간에 속하는지 한눈에 확인하고, 단위별 거리와 전체 분포 비교 결과도 확인하세요.

LLM API 핑거프린트 검사는 어떻게 작동하나요?

LLM 행동 핑거프린트란 무엇인가요?

대규모 모델은 진정으로 무작위적인 숫자를 생성할 수 없습니다. "1에서 100 사이의 무작위 숫자를 말해 보세요"라고 요청하면 모든 모델에는 숨길 수 없는 선호 값이 있으며, 모델마다 다른 일정한 비율로 나타납니다. 이러한 한 단어 프로브 수십 개의 응답 분포를 이어 붙이면 행동 핑거프린트를 얻을 수 있습니다. 모델 이름 변경, 프롬프트 변경, 양자화로도 이를 지울 수 없습니다.

온도 1.0에서 GPT 모델은 42와 37을 유난히 선호하고, Claude는 47을, Llama는 53을 선호합니다. 이러한 선호는 학습 데이터에 형성된 확률적 습관에서 비롯되며, 하나의 모델에서는 시간이 지나도 안정적이고 모델 간에는 뚜렷하게 다릅니다. 각 프로브는 표현 풀에서 무작위로 선택한 일반적인 의미 질문입니다(난수, 색상, 문자, 다국어 프롬프트). 특정 문자열을 사용하지 않으므로 부정직한 릴레이가 키워드 규칙으로 이를 감지하거나 가로채기 어렵습니다.

검증 비용: 세 가지 프로브 레벨

주소와 키를 붙여 넣고, 주장된 모델을 선택한 다음 시작하세요. 각 레벨의 비용은 버튼 바로 옆에 명시되어 있으며, 사용자의 할당량이 차감됩니다.

레벨단위요청시간오류율
빠름4 × 1564~1 min높음(대략적)
표준기본값8 × 25204~2 min약 10.6%
엄격16 × 25404~4 min약 9.5%

엔드포인트 감사 모드에서는 기본적으로 내장 핑거프린트 라이브러리가 기준으로 사용됩니다(각 핑거프린트에는 수집일과 포함된 단위가 표시됩니다). 고급 옵션에서 신뢰할 수 있는 사용자 지정 엔드포인트로 전환할 수도 있습니다. 일반적으로 공식 API 또는 OpenRouter를 사용해 동일한 실행에서 실시간 비교 분포를 수집합니다. 응답은 단위별로 스트리밍되며 언제든 취소할 수 있습니다. 보고서에는 논문 기준선과 비교한 척도의 세 구간 판정, 평균 Jensen-Shannon divergence, 이중 분포 비교를 사용한 단위별 JSD, 그리고 토큰 사용량·지연 시간·라우팅 안정성과 같은 객관적인 기술 지표가 포함됩니다.

판정 기준선: 거리는 어느 구간에 해당하나요?

두 핑거프린트는 Jensen-Shannon divergence를 사용해 단위별로 비교한 뒤 평균을 냅니다. 논문에서 측정한 값은 다음과 같습니다. 모델 자체와의 비교 ≈ 0.140, 공급자 간 배포 비교 ≈ 0.227, 서로 다른 모델 간 비교 ≈ 0.463. 세 임계값은 이 수치에서 도출되며, 출처와 함께 중앙에서 관리됩니다.

0.25일치주장된 모델과 일관됨
0.250.35의심스러움더 높은 레벨에서 다시 테스트하거나 다른 기준을 시도하세요
> 0.35다를 가능성이 높음핑거프린트가 공식 기준과 명확히 일치하지 않음

각 프로브 단위(작업 × 언어)는 한 단어 응답의 정규화된 경험적 분포를 생성합니다. JSD는 단위별로 계산되며(밑 2, 범위 0~1), 엔드포인트 거리는 유효한 표본이 충분한 단위들의 평균입니다. 향후 보정을 위해 임계값은 출처와 함께 중앙에서 관리됩니다. 모든 내장 기준 핑거프린트는 논문의 공식 공개 데이터셋에서 가져옵니다(Zenodo, CC-BY-4.0, 167개 모델 포함). 이 데이터셋은 이 도구가 실시간 샘플링에 사용하는 것과 정확히 동일한 최소 고정 시스템 프롬프트로 수집되었습니다.

이는 증거이지, 확정적인 증명이 아닙니다

이 방법은 알려진 오류율이 있는 통계적 방법입니다. 양자화된 배포, 예고 없는 업데이트, 오래된 핑거프린트는 모두 정당하게 분포를 변화시킬 수 있습니다. 또한 추론을 비활성화할 수 없는 경우 추론 모델은 낮은 신뢰도로 표시됩니다.

다음과 같이 취급하세요

재테스트 및 기준 전환을 위한 신호 채널을 변경하기 전에 확인할 통계적 증거 다른 신호와 함께 고려할 하나의 지표

다음으로는 절대 취급하지 마세요

공급자에 대한 공개적인 고발 한 번의 실행 결과만으로 내리는 유죄 판정의 증거 사용자를 대신해 결정을 내리는 최종 판정

양자화된 변형 모델을 배포하거나, 모델을 예고 없이 업데이트하거나, 기준 핑거프린트가 오래된 경우 모두 분포가 정당하게 달라질 수 있습니다. 따라서 어떤 단일 판정도 공급자에 대한 고발로 해석해서는 안 됩니다. 추론 모델에 대한 전체 전략은 다음과 같습니다. 기본적으로 프로브에 추론 비활성화 매개변수를 포함하고, 엔드포인트가 이를 거부하면 추론 후 채널(더 큰 토큰 예산)로 대체하며, 전체 결과를 낮은 신뢰도로 표시합니다. 확신이 서지 않으면 더 높은 레벨에서 다시 테스트하고, 다른 기준을 시도한 뒤, 가격과 지연 시간 같은 다른 신호와 함께 판단하세요.

브라우저에서 실행되는 이유

다른 대상의 신뢰성을 검증하는 도구가 대신 사용자의 키를 요구해서는 안 됩니다. Tosea는 요청 경로에 전혀 개입하지 않습니다. 엔드포인트가 원본 간 요청을 차단하면 도구가 동등한 curl 명령을 생성하므로 로컬 터미널에서 계속 진행할 수 있습니다.

Tosea 서버 — 요청 경로에 포함되지 않으며, 키·엔드포인트·결과를 절대 확인하지 않습니다. GitHub에서 오픈 소스 확인 — 감지 엔진을 한 줄씩 감사하세요 →

키는 페이지 메모리에만 저장되며, "구성 기억하기"를 직접 선택한 경우에만 localStorage에 기록됩니다. 프로브는 브라우저에서 입력한 엔드포인트로 직접 전송됩니다. Tosea는 프록시를 실행하지 않고 텔레메트리도 수집하지 않습니다. 방법, 임계값, 기준 데이터 출처는 모두 이 페이지에 공개되어 있으며, 오픈 소스 저장소의 내용과 한 줄씩 비교할 수 있습니다.

참조 및 데이터
추가로 읽어볼 자료

FAQ

아니요. 키는 브라우저 메모리에만 저장되며(선택적으로 사용자의 localStorage에 저장할 수도 있음), 프로브 요청은 브라우저에서 설정한 엔드포인트로 직접 전송됩니다. DevTools의 Network 패널에서 이를 확인할 수 있습니다.

LLM은 의미 기반 한 단어 질문(예: 무작위 숫자 이름 짓기)에 대해 모델별로 안정적인 확률 분포를 생성합니다. 이 도구는 temperature 1.0에서 이러한 분포를 샘플링하고 Jensen-Shannon divergence로 비교합니다. 여러 프로바이더에서 동일한 모델은 약 0.227, 서로 다른 모델은 약 0.463으로 측정됩니다(arXiv:2607.10252).

표준 확인은 8개 셀 × 25개 샘플로, 각각 약 90토큰인 요청 약 200건에 해당합니다. gpt-4o-mini 요금 기준으로 약 $0.005입니다. 정확한 예상 비용은 시작 전에 표시되며, 확인하기 전에는 아무것도 전송되지 않습니다.

아니요. 판정은 고발이 아닌 통계적 관찰입니다. 이 방법에는 고유한 오류율이 있으며(8개 셀에서 EER 약 10.6%), 양자화된 배포 환경, 예고 없는 모델 업데이트 또는 오래된 참조 핑거프린트가 모두 분포를 변경할 수 있습니다. 하나의 증거로만 참고하고, 결론을 내리기 전에 다시 테스트하세요.

일부 엔드포인트는 브라우저의 교차 출처(CORS) 요청을 허용하지 않습니다. 그렇다고 문제가 있다는 의미는 아닙니다. 도구가 이를 감지하고 동일한 작업을 수행할 수 있는 curl 명령을 제공하므로, 사용자의 터미널에서 직접 엔드포인트를 프로브할 수 있습니다.

샘플링 전에 도구가 엔드포인트에서 허용하는 추론 비활성화 파라미터를 확인합니다(OpenRouter의 reasoning, Zhipu의 thinking 또는 OpenAI의 reasoning_effort 방식). 모두 작동하지 않으면 더 큰 토큰 예산을 사용하는 post-reasoning 채널로 전환하고, 결과의 신뢰도가 낮다는 점을 명확히 표시합니다.

개인정보 보호

모든 작업은 브라우저에서 실행됩니다. API 키는 브라우저 메모리에만 저장되고, 탐색 요청은 브라우저에서 엔드포인트로 직접 전송되며 어떤 Tosea 서버도 거치지 않습니다. 분석 도구도 사용하지 않습니다. 코드는 오픈 소스로 공개되어 감사할 수 있습니다. GitHub에서 오픈 소스 확인 — 감지 엔진을 한 줄씩 감사하세요 →

관련 도구