우리 AI 도구의 보안이 누군가의 문제일 수도 있다고 생각해 본 적 있나? As You Wish(AYW)는 그랬던 모양이다. 그리고 자신들의 AI 안전 레이어를 용의 황금처럼 숨겨두는 대신, 세상에 내던져 버렸다. 대담한 결정이다. 어쩌면 무모할 수도. 한번 파헤쳐 보자.
자, AI 기반 개발 도구를 만드는 건 단순히 코드를 뱉어내는 게 아니다. 가드레일이 필요하다. 프롬프트 공격을 막기 위한 입력값 검증. 수상한 코드나 편향을 잡아내는 출력값 필터링. 모든 정신 나간 AI 결정을 추적하는 감사 로깅. 위험해 보이는 건 뭐든 인간 승인. 그리고 AI가 ‘왜’ 그걸 뱉어냈는지 알 수 있는 투명성 레이어까지.
AYW는 이 작업에 8개월이라는 고통스러운 시간을 쏟았다. 그러다 깨달은 거다. 모두가 똑같은 디지털 히드라와 싸우고 있다는 것을. 그래서 6개월 전, 이걸 오픈소스로 공개했다. GitHub에. 마음껏 가지고 놀라고.
구조를 보니, 솔직히 괜찮아 보인다. 잘 정리되어 있다. 입력값 검증, 출력값 필터링, 로깅, 승인. 표준적인 내용이다. 하지만 디테일에 악마가 숨어있는 법이고, AYW는 그 디테일—500개 이상의 보안 테스트 케이스, 10ms 미만의 오버헤드—이 이제 공개되었다고 주장한다. 물론 MIT 라이선스다. 마음이 동하면 기여하라.
독점적 보안은 자기모순이다.
꽤 날카로운 지적이다. 그리고 그 논리? 일리가 있다. 오픈소스로 공개하면서 500쌍 이상의 눈이 그들의 안전 로직을 들여다보게 된 셈이다. 그들은 AYW가 놓쳤던 23개의 취약점을 찾아냈다. 더 빠른 패치? 커뮤니티 PR. 기업 고객들의 신뢰? “당신의 안전 레이어를 감사할 수 있습니다.” 순환 논리 같지만, 이번엔 제대로 작동한 듯하다.
그리고 강제적인 문서화? 더 깔끔한 인터페이스? 더 많은 테스트? 단순화된 아키텍처? 이건 그냥 기업용 헛소리가 아니다. 오픈소스화의 적나라한 진실이다. 코드 품질 점수가 중간 수준인 6.2점에서 8.7점으로 껑충 뛰었다. 우연이 아니다.
6개월간 47개의 PR이 제출되었고, 32개가 병합되었다. 그들이 미처 생각지도 못했던 12개의 새로운 안전 점검 기능이 추가되었다. 특정 산업을 위한 3개의 새로운 필터. 지연 시간을 40% 단축시킨 8개의 성능 최적화. 박사과정 학생이 참신한 편향 탐지 알고리즘을 추가했다. 갑자기 AYW의 문제는 ‘모두의’ 해결책이 되어버린 것이다.
인재 채용의 보너스
이건 단순히 더 나은 코드를 넘어선다. 인재에 대한 이야기다. AYW는 이 레이어를 사용했던 시니어 엔지니어 두 명을 오픈소스를 통해 영입했다. 5개의 PR을 기여하고 합류한 보안 연구원 한 명. 인턴 세 명. 이건 우연이 아니다. 이타주의를 가장한 인재 영입 전략이다.
수치를 보라: 3,200개 이상의 스타, 450개 이상의 포크, 50개 이상의 기업이 프로덕션 환경에서 사용 중이다. Discord 커뮤니티 200명 이상. 비즈니스에 미친 영향? 기업 매출 3배 증가. 보안 사고 0건. 영업 주기 40% 단축. 고객 유지율 95%. 거의… 설득력이 있다.
황금률: 오픈소스 에디션
AYW는 몇 가지 핵심적인 조언을 제공한다. 안전/보안 라이브러리, 공통 유틸리티, 표준 등은 오픈소스로 공개하라. 핵심 AI 모델, 독점 알고리즘, 고객 데이터 핸들러는 공개하지 마라. 합리적인 구분이다. 그들은 심지어 간단한 플레이북까지 제공한다: 추출, 문서화, 테스트, 라이선스, CI/CD. 간단하지만, 종종 간과되는 부분이다.
그들의 출시 발표 전략은? Dev.to와 Hacker News였다. 핵심 내용은 문제, 해결책, 왜 오픈소스로 공개했는지, 어떻게 기여할 수 있는지. 이슈는 48시간 이내 응답, PR은 주간 검토. 기여자들을 메인테이너로 추가. 기여를 축하. 이 모든 데 현재 일주일에 약 4시간이 소요되지만, 20시간 이상을 절약하고 있다. 내 생각엔 현명한 거래다.
취약점이 발견되었다. 좋다. 빠르게 패치되었다. 교훈: 보안 정책을 갖춰라. 또한, 의존성 스캔도 필수다. GPL 코드가 끼어들지 않도록 해야 했다고 한다. 뛰어들려는 모든 이에게 주는 경고다.
그리고 마냥 앉아있지만도 않는다. 벤치마크를 위해 스탠퍼드 HAI와 협력하고 있다. 투명성 표준에 대한 AI 파트너십. 공유된 안전 스키마를 위한 OpenAI, Anthropic과의 협력. 이건 AYW 자체를 넘어 업계 전체를 합리적으로 이끌려는 움직임이다. 원대한 목표지만, 실제로 성과를 낼 수 있는 목표다.
이것이 AI 안전의 미래인가?
AYW의 결정은 단순한 제스처가 아니다. 실용적이면서도 약간은 대담한 행보다. 안전 레이어를 오픈소스로 공개함으로써, 그들은 그것을 개선했을 뿐만 아니라 신뢰와 커뮤니티를 구축했다. 이는 표준을 강요한다. 기준을 높인다. 어쩌면 그들이 한 일 중 가장 똑똑한 일일지도 모른다.
바퀴를 재발명하는 게 아니다. 타이어 공장을 오픈소스로 공개하는 것이다. 그리고 AI 개발에 있어서, 이것은 지켜볼 만한 움직임이다. 특히 자신만의 AI 도구를 구축하고 있다면 말이다. 공유된 문제는 공유된 해결책을 요구한다. AYW는 방금 우리에게 하나를 던져주었다.
