Visa의 AI 혁신: RAG-as-a-service와 딥러닝으로 보안 강화 및 데이터 검색 속도 향상
Visa의 글로벌 도전과 AI 도입 배경
Visa는 200개 이상의 국가와 지역에서 운영되며, 각 지역마다 고유하고 복잡한 규칙과 규제를 준수해야 합니다. 고객 서비스 팀은 이러한 규제를 이해하고, 예를 들어 "이 국가에서 이 유형의 결제를 처리할 수 있나요?"와 같은 정책 관련 질문에 답해야 합니다. 하지만 모든 답변을 즉각적으로 제공하는 것은 인간의 능력으로는 불가능합니다.
기존에는 관련 정보를 수동으로 찾아야 했고, 이는 정보 접근성에 따라 며칠이 걸릴 수도 있는 고된 작업이었습니다. 그러나 생성형 AI(Generative AI)의 등장으로 Visa는 이를 해결할 기회를 발견했습니다. 특히 RAG(Retrieval-Augmented Generation) 기술을 활용해 정보를 최대 1,000배 빠르게 검색하고, 출처를 명확히 제시할 수 있게 되었습니다.
"무엇보다 결과의 품질이 더 좋아졌습니다. 그리고 지연 시간도 줄어들었죠. 이전보다 훨씬 더 많은 사례를 처리할 수 있게 되었습니다."
- Sam Hamilton, Visa 데이터 및 AI 부문 SVP
Secure ChatGPT: Visa의 안전한 AI 모델
2022년 11월 30일, ChatGPT가 세상에 공개되면서 AI의 새로운 시대가 열렸습니다. 이후 Visa 직원들 사이에서도 "우리도 ChatGPT를 사용할 수 있나요?", "ChatGPT에 접근할 수 없나요?" 같은 요청이 쏟아졌습니다. 하지만 Visa는 세계 최대 디지털 결제 제공업체로서 고객의 민감한 데이터를 보호해야 하는 책임이 있었습니다.
이를 해결하기 위해 Visa는 'Secure ChatGPT'를 도입했습니다. 이 모델은 Microsoft Azure에서 내부적으로 운영되며, 방화벽 뒤에서 작동합니다. 데이터 손실 방지(DLP) 스크리닝을 통해 민감한 데이터가 외부로 유출되지 않도록 철저히 관리합니다.
"수백 페타바이트의 모든 데이터는 암호화되어 있으며, 저장 중이든 전송 중이든 모두 안전합니다."
- Sam Hamilton
Secure ChatGPT는 단순히 GPT 모델만을 제공하는 것이 아니라, Mistral, Anthropic의 Claude, Meta의 Llama, Google의 Gemini, IBM의 Granite 등 다양한 모델을 선택할 수 있는 멀티 모델 인터페이스를 제공합니다. 이를 통해 사용자들은 특정 용도에 맞는 API를 선택할 수 있습니다.
"Secure GPT는 모델 위에 얹어진 껍데기일 뿐입니다. 이제 사용자는 자신이 원하는 모델을 선택할 수 있습니다."
- Sam Hamilton
또한 Visa는 모든 개발자들에게 GitHub Copilot을 제공하여 코드 작성 및 테스트를 지원합니다. 이를 통해 코드 품질과 테스트 범위가 크게 향상되었습니다.
RAG-as-a-service의 실제 활용 사례
Visa의 Secure ChatGPT는 특히 지역별 정책 관련 질문을 처리하는 데 강력한 도구로 활용됩니다.
"200개국에서 각기 다른 규제를 다루다 보면 문서가 수천, 수십만 개에 달할 수 있습니다. 정말 복잡하죠. 이를 정확히 처리해야 합니다."
- Sam Hamilton
RAG 기술을 통해 Visa는 신뢰할 수 있는 최신 데이터를 기반으로 빠르게 답변을 제공하며, 관련 문서와 출처를 함께 제시합니다.
"이 문서에 기반해 답변을 드립니다. 이 문서가 필요하실 겁니다."
- Sam Hamilton
기존에는 이러한 작업에 몇 시간, 심지어 며칠이 걸렸지만, 이제는 2~5분 만에 결과를 얻을 수 있습니다.
Visa의 '생일 케이크' 데이터 인프라
Visa의 이러한 AI 활용은 지난 10년간 약 30억 달러를 투자해 구축한 데이터 인프라 덕분입니다. Sam Hamilton은 이를 '4단계 생일 케이크'로 비유하며 설명했습니다.
- 데이터 플랫폼 서비스 계층: 데이터 레이크를 기반으로 한 운영 체제 역할을 하며, 수백 페타바이트의 데이터를 통합.
- 데이터 서비스 계층: 다양한 속도로 데이터를 처리하는 '데이터 고속도로' 역할.
- AI/ML 생태계 계층: 모델 성능 테스트 및 편향/드리프트 방지.
- 데이터 제품 계층: 직원과 고객을 위한 제품 개발.
AI로 400억 달러의 사기 차단
Visa는 신뢰받는 결제 제공업체로서 사기 방지를 최우선 과제로 삼고 있습니다. 이를 위해 100억 달러 이상을 투자해 네트워크 보안을 강화했으며, 2024년에는 400억 달러 규모의 사기 시도를 차단했습니다.
Visa의 딥 러닝 기반 도구는 거래 위험 점수를 제공하여 웹 또는 모바일 앱을 통한 비대면 결제(CNP)에서 발생할 수 있는 위험을 관리합니다. 또한, 실시간 계좌 간 결제 보호 기능은 즉각적인 위험 점수를 생성해 악성 거래를 자동으로 차단합니다.
"우리는 거래와 동시에, 즉 밀리초 단위로 응답해야 했습니다."
- Sam Hamilton
Visa는 트랜스포머 기반 모델을 활용해 데이터를 분석하고, 새로운 사기 유형을 예측하기 위해 합성 데이터를 사용해 시뮬레이션을 수행합니다.
"사기는 끝없는 경쟁입니다. 우리는 항상 한 발 앞서 나가야 합니다."
- Sam Hamilton
핵심 키워드 정리
- RAG(Retrieval-Augmented Generation): 정보 검색 및 출처 제공 기술.
- Secure ChatGPT: Visa의 내부 AI 모델, 데이터 보안 강화.
- GitHub Copilot: 개발자 지원 도구.
- 4단계 데이터 인프라: 데이터 플랫폼, 서비스, AI/ML 생태계, 제품 계층.
- 사기 방지: 딥 러닝 및 트랜스포머 모델 활용, 400억 달러 사기 차단.
Visa는 AI와 딥러닝 기술을 통해 데이터 검색 속도를 혁신적으로 향상시키고, 사기 방지 및 보안 강화를 통해 글로벌 결제 네트워크의 신뢰성을 유지하고 있습니다. 🚀