Aethra AI

Aethra AI란 무엇인가?

Aethra AI는 프리시드 스타트업이 구축한 AI 에이전트를 위한 런타임 방어 및 거버넌스 플랫폼입니다. 핵심에는 에이전트 세계의 모든 데이터 조각이 어디서 왔는지 — 신뢰할 수 있는지 또는 신뢰할 수 없는지 — 추적하고, 신뢰할 수 없는 데이터가 민감한 시스템을 유출, 변경 또는 파괴할 수 있는 작업을 수행하지 못하도록 차단하는 enforcement 레이어가 있습니다. 아키텍처는 이중 LLM 보안 연구(CaMeL)에 부합하는 Planner / Quarantined Extractor / Executor 모델을 따릅니다. 오픈소스 SDK(Apache 2.0, Python 및 Node/TS)는 GitHub에서 제공되며, 승인, 감사 증거 및 킬 스위치 기능을 위한 선택적 호스팅 제어 플레인이 있습니다.

대상 사용자

• 보안 엔지니어 — 패턴 매칭이나 클라우드 왕복에 의존하지 않고 프롬프트 인젝션 공격을 차단하는 배포 가능한 경계가 필요한 분.
• 에이전트 시스템을 운영하는 플랫폼 팀 — 자체 스택 내부에서 오프라인으로 작동하는 출처 추적 및 도구 수준 정책 enforcement를 원하는 분.
• 컴플라이언스 및 리스크 담당자 — 승인, 차단된 작업, 외부 전송 대상을 포함하여 에이전트가 실제로 수행한 작업에 대한 감사 가능한 증거가 필요한 분.

주요 기능

출처 경계 enforcement

에이전트가 처리하는 모든 값은 출처에 따라 신뢰할 수 있음 또는 신뢰할 수 없음으로 라벨링됩니다. 이 라벨은 워크플로우를 통해 데이터와 함께 이동합니다. 신뢰할 수 없는 데이터가 위험한 기능 — 전송, 쓰기, 외부 호출, 실행 — 에 도달할 수 있는 작업이 발생하면 런타임이 이를 차단하거나 사람의 승인을 위해 보류하며, 공격 문구가 아닌 출처 기준으로 결정을 기록합니다.

오프라인 운영이 가능한 오픈소스 런타임

핵심 보호 기능은 에이전트를 실행하는 머신에서 작동합니다. 차단 결정은 Aethra의 서버가 가동 중인지에 의존하지 않습니다. SDK는 Python(aethra-ai) 및 Node.js / TypeScript(@aethra-ai/sdk)용으로 제공되며, 둘 다 동일한 enforcement 모델을 구현합니다.

선택적 운영자 제어 플레인

연결되면 제어 플레인은 팀에게 enforcement 이벤트, 승인 워크플로우, 에이전트 등록 및 일시 중지, 컴플라이언스 증거 보기에 대한 가시성을 제공합니다 — 모두 런타임이 실제로 기록한 내용을 기반으로 구축됩니다. 차단 결정은 로컬에 유지되며, 클라우드는 절대 블랙박스가 되지 않습니다.

도구 수준 정책 작업

도구별 정책에 따라 런타임은 호출을 허용하거나, 차단하거나, 사람의 승인을 요구할 수 있습니다. 차단 및 보류는 도구 이름과 오염된 출처 식별자와 함께 기록되며, 원시 프롬프트 내용이나 비밀번호는 절대 기록되지 않습니다.

차별점

Aethra AI는 필터가 아닙니다 — 공격 문구 매칭이 아닌 데이터 출처에서 결정하는 출처 경계입니다.

이 차이는 중요합니다. 대부분의 방어는 악성 지시를 문구로 인식하려고 시도하지만, 이는 새로운 또는 난독화된 공격에는 실패합니다. Aethra는 대신 데이터가 어디서 왔는지에 따라 라벨링하고 도구 경계에서 enforcement하므로, 신뢰할 수 없는 콘텐츠는 문구가 어떻든 위험한 작업을 유도할 수 없습니다. AgentDojo 벤치마크 테스트에서 Aethra는 0개의 오탐(false positive)으로 35/35 인젝션 목표를 차단했습니다. 회사는 현재 €1.0–1.5M 프리시드 라운드를 모금 중입니다.

이런 경우 확인해 볼 가치가 있습니다…

민감한 시스템에 접촉하는 AI 에이전트를 운영하면서 오프라인으로 작동하고 오픈소스로 제공되며 문제 발생 시 보안 팀에 추측이 아닌 증거를 제공하는 방어가 필요하다면 확인해 보세요. 조직 전체의 가시성, 승인 및 킬 스위치 제어가 필요하다면, 오픈소스 코어가 구축된 후 선택적 제어 플레인이 자연스러운 다음 단계입니다.