많은 엔터프라이즈 환경에서는 대규모 AI 구축을 독자적으로 추진하는 과정이 벅찬 과제로 인식되고 있다. 탄탄한 구현 협력업체가 필요한 이유이다. 특히 에이전틱 AI는 여러 조직에서 아직 새로운 분야라 경험 많은 협력업체의 전문성이 큰 가치를 제공한다.

레노버(Lenovo)가 의뢰해 올해 초 발간한 보고서는 CIO의 AI 구현 전략 보고서에서 전문 서비스 협력 모델이 주류로 자리 잡았다고 지적했다. 전 세계 IT 및 비즈니스 의사결정권자 2,920명을 대상으로 한 이 조사는 고품질 데이터 확보 등 데이터 관리 난제가 증가하면서 많은 조직이 AI 구축에 전문 서비스 협력 모델을 활용하고 있다고 밝혔다.

우수한 AI 구현 협력업체가 반드시 대형 전문 서비스 기업에 한정되는 것은 아니다. AI 컨설팅 업체나 스타트업 같은 소규모 업체도 충분한 가치를 제공할 수 있다. 어쨌든 많은 기업이 AI 도구와 서비스의 구축, 모니터링, 유지보수에 외부 전문 인력이 필요한 실정이다.

아마존의 수석 소프트웨어 엔지니어 겸 테크 리트인 치라그 아그라왈은 “확장 가능한 자연어 처리(NLP)와 AI 시스템을 다루는 테크 리드 업무를 수행한 경험상, AI 도입 성공은 기술 그 자체보다 구현 협력업체의 역량에 좌우되는 경우가 많았다”라고 말했다.

기업은 어떤 요소를 갖춘 협력업체를 선택해야 할지, 기술 리더와 관련 전문가가 조언한 내용을 정리했다.

산업 특화 전문성

모든 AI 구현에 맞는 한 가지 접근법은 없다. 산업군별로 요구사항이 다르며, 특히 규제 준수와 데이터 거버넌스 영역은 차이가 크다. 좋은 AI 협력업체는 고객 산업군에 대한 깊은 이해가 필요하며, 그렇지 않으면 바로 문제가 발생할 수 있다.

회계 및 비즈니스 자문 회사 위스(Wiss)의 CIO 흐리시 피파디팔리는 “많은 기업이 AI 도구를 표면적으로만 이해하고 있는데, 실제로 중요한 것은 특정 산업의 맥락 속에서 AI를 해석하는 능력이다”라고 강조했다.

피파디팔리는 “예를 들어 전문 서비스와 회계 분야에서는 규제와 고객 데이터 제약을 이해하지 못한 채 AI를 적용하면 파일럿 프로젝트 단계에서 실패하는 사례가 반복된다”라며, “역량 있는 협력업체는 기술뿐 아니라 고객 비즈니스 모델, 규제 요구사항, 워크플로우 구조까지 함께 이해하며 이 간극을 메운다”라 설명했다.

위스는 최근 AI 네이티브 회계 플랫폼 릴렛(Rillet)과 협력해 성장기 기업을 위한 새로운 회계 모델을 선보였다. 아그라왈은 “AI 모델에 대한 높은 전문성을 갖춘 협력업체와 일한 경험도 있지만, 업종별 규제 특성과 데이터 거버넌스 체계를 깊이 이해하지 못한 경우도 있었다. 이런 간극은 특히 규제 준수와 설명가능성 측면에서 숨은 리스크를 만든다”라고 지적했다.

아그라왈은 효과적인 협력업체는 혁신과 보안·프라이버시·업종별 규제 준수라는 가드레일을 균형 있게 고려해야 한다고 강조했다. 또, “그렇지 않으면 IT 리더가 장기적인 책임 부담을 떠안게 된다”라고 덧붙였다.

아마존은 과거 자연어 처리 역량이 뛰어난 협력업체와 프로젝트를 진행한 경험이 있다. 아그라왈은 “해당 협력업체의 프로토타입은 인상적이었지만 업종 지식이 부족해 규제 문제를 자체적으로 검증하는 데 많은 시간을 투입해야 했다. 이 과정에서 일정이 지연됐고, 기술 역량과 업종 전문성이 모두 필요하다는 점을 다시 확인했다”라고 설명했다.

기존 워크플로우에 AI를 이질감 없이 접목하는 역량

AI는 본질적으로 파괴적 성격을 지닌 기술이라. 업무 수행 방식과 조직 내 역할이 달라질 수 있다. 모든 변화가 부정적인 것은 아니지만, 핵심 비즈니스 프로세스에 영향을 주지 않도록 세심하게 관리해야 한다. 따라서 의사결정권자는 유력한 AI 구현 협력업체가 핵심 프로세스를 중단시키지 않고 도구와 서비스를 자연스럽게 통합할 수 있는지를 검토해야 한다.

아마존의 아그라왈은 “많은 조직이 기술 자격이나 화려한 데모에만 집중하는 실수를 반복한다”라고 지적하며, “실제로 중요하지만 간과되는 요소가 있다. 협력업체가 AI를 기존 워크플로우에 자연스럽게 녹여내 비즈니스 연속성을 지킬 수 있는지 여부다. 우수한 협력업체는 AI를 이론적 효용이 아니라 엔터프라이즈 현장의 복잡성 속에서도 실제 효과를 내도록 통합한다”라고 설명했다.

아그라왈은 “아마존이 한 차례 협업한 AI 업체는 프로젝트 시작 단계부터 우리 워크플로우에 솔루션을 맞추는 데 집중했다, 운영팀과 긴밀히 협력하며 데이터 파이프라인 구조를 익히고, 구축 환경을 사내 시스템에 정확히 맞춰 개발했다. 이 접근법 덕분에 이행 과정이 매끄러웠고, 중단 시간도 줄었으며, 비즈니스 사용자는 변화 사실을 거의 느끼지 못했다. 프로젝트 성공의 핵심 요인이었다”라고 밝혔다.

조직 문화와의 적합성

AI 구현 협력업체와의 성공적인 협력 관계는 AI가 기업 문화에 미칠 영향까지 고려해야 한다.

비즈니스 경영 컨설팅 회사 퍼시몬 그룹(The Persimmon Group)의 사장 사라 갤러거는 “대부분 평가 항목은 보안, 규제 준수, 데이터 거버넌스 등 기술적 요소에만 초점을 맞춘다. 이 부분도 물론 중요하지만 많은 경영진이 더 까다로운 질문을 회피하고 있다”라고 지적했다.

갤러거는 “많은 경영진이 AI를 단순 도구나 기능처럼 취급하지만, 실제로는 하나의 시스템이라고 봐야 한다”라며, “조직 문화, 정치적 환경, 비공식 워크플로우가 이 시스템을 형성한다. 예측하기 어려운 특성이 많아 더 깊은 고민이 필요하다”라고 조언했다.

기술 임원에게 AI 협력업체와 일하는 방식을 조언할 때 갤러거는 “데이터가 보여주는 내용과 현장에서 구성원이 느끼는 정서 사이에 간극이 생길 경우 협력업체가 이를 어떻게 다룰지를 반드시 질문해야 한다”라고 말했다. “AI는 정서를 측정할 수 있지만, 의사결정이 가져오는 실제 이해관계를 느끼지 못한다. 정서(sentiment)는 파악하지만 감정(emotion)은 이해하지 못하기 때문에, 수학적으로는 타당하지만 비공식 워크플로우에 예측 불가능한 흔들림을 주는 추천을 내릴 수 있다”라고 분석했다.

갤러거는 협력업체와 기업이 AI가 조직 문화에 도움이 되는지, 혹은 부정적 영향을 주는지를 평가하는 기준 또한 갖춰야 한다고 조언했다. 갤러거는 “CIO는 비용 절감, 효율성 향상, 기술 성능, 보안 위험 등은 잘 추적한다. 하지만 AI가 조직 내부의 신뢰와 참여도를 조용히 약화시키는지 여부는 종종 간과된다. 문제는 구성원이 스스로 선택한 챗GPT 같은 도구가 아니라, 위에서 일방적으로 도입한 도구에서 비롯되는 경우가 많다”라고 경고했다.

지속적인 효과를 위한 역량 공유 의지

우수한 AI 구현 협력업체는 단순히 일정이 끝난 뒤 떠나는 존재가 아니다. 고객 기업과 그 직원의 필요를 파악하는 데 시간이 걸리기 때문에, 좋은 협력업체는 직원의 업스킬링을 통해 기업과 직원이 AI 가치를 현재와 미래 모두에서 극대화할 수 있도록 장기적인 영향을 미칠 수 있다.

위스(Wiss)의 흐리시 피파디팔리는 “적합한 AI 협력업체는 대체가 아니라 역량 강화라는 관점으로 접근해야 한다. AI는 업무 방식을 향상해야지 불안감을 조성하거나 혼란을 유발해서는 안 된다. 가장 성공적인 구축 사례는 자동화와 재교육이 짝을 이루는 경우였다. 회계사 업무에서 수작업 조정 과정을 줄여 고객 자문에 더 많은 시간을 투자할 수 있게 만드는 방식이다”라고 설명했다.

아마존의 치라그 아그라왈은 “단순히 모델을 제공하는 수준이 아니라 AI 도입이 요구하는 조직과 문화의 변화까지 함께 고민하는 ‘운영에 대한 공감’을 갖춘 협력업체를 찾는다”라고 말했다. 또, “우수한 AI 컨설턴트는 코드만 넘기고 끝내지 않는다. 조직 구성원의 역량을 높이고, AI 결과에 대한 신뢰를 구축해, 협력 이후 조직이 더 강해지도록 돕는다. 의존성을 만드는 것이 아니라 스스로 성장하도록 돕는 ‘물고기를 잡는 법을 가르치는’ 능력이 진정한 차별화 요소다”라고 강조했다.

아그라왈은 협력업체의 역량 공유가 실제로 얼마나 큰 가치를 만드는지 여러 차례 경험했다며, “어느 프로젝트에서는 컨설턴트가 모델을 구축하는 것에 그치지 않고 엔지니어와 제품 리드를 대상으로 워크숍을 운영했다. 덕분에 팀이 AI 결과를 신뢰하게 됐고, 인계 과정에서 혼란 없이 스스로 후속 작업을 이어갈 수 있었다”라고 밝혔다.

보안 및 데이터 프라이버시 리스크에 대한 이해

AI 도입에는 사이버보안 및 데이터 프라이버시 리스크가 따르게 마련이다. 따라서 구현 협력업체는 이런 위험을 명확히 이해하고 대응 능력을 갖춰야 한다. 조직 역시 협력업체가 핵심 데이터를 보호하기 위한 최선의 관행을 준수하고 있는지 확인해야 한다.

물리보안 및 조사 회사 핑커턴(Pinkerton)의 부회장 팀 윌리엄스는 “AI는 조직을 변혁할 수 있는 강력한 도구이지만, 안전하고 효과적으로 활용하려면 세심한 구현 과정이 필수적이다”라고 지적했다.

윌리엄스는 “이 논의는 CIO, CSO, CEO뿐 아니라 법무와 인사 부문까지 포함한 전사적 이해관계자가 참여해야 한다. 적합한 AI 도구와 협력업체를 찾기 위해서는 철저한 실사가 필요하다. 잠재 협력업체의 윤리적 이력과 신뢰 가능한 과거 행적을 반드시 확인해야 한다”라고 강조했다.

또한 윌리엄스는 AI 도구가 프라이버시에 미칠 영향도 검토해야 한다고 말했다. 예를 들어, 공공 장소에서 AI 기반 카메라를 사용하는 방식, 민감 정보 공유 여부, 제삼자나 직원이 촬영될 가능성 등이 포함된다.

기업은 구현하려는 AI 도구가 조직의 목표에 얼마나 부합하는지도 반드시 검토해야 한다. 윌리엄스는 “AI 도구가 조직의 요구에 맞게 설계됐는가?”라고 물으며, “사람의 판단이 더 적합한 기능을 환각 문제를 가진 자동화 도구로 무리하게 대체하고 있는 것은 아닌지 확인해야 한다”라고 말했다.

헬스케어 기술 기업 메타닥(Metadoc)은 협력업체 케어풀 시큐리티(Cautious Safety)와 함께 AI 기반 근골격 분석 플랫폼을 개발했는데, 개인 데이터 보호가 핵심 우려였다.

메타닥 CTO 브루스 호프먼은 “프라이버시 조치 없이 배포된 AI 시스템은 중대한 보안 취약성을 만든다. 케어풀 시큐리티는 모든 개인 데이터를 모델에 입력하지 못하도록 차단하는 정책을 통해 완전한 프라이버시 보호 체계를 구축했다”라고 설명했다. 또, 모바일 기기 기반의 사용자 바이오메트릭, 통증 지표, 움직임 데이터는 분석 전에 완전한 익명화 과정을 거친다고 덧붙였다.

이 시스템은 개인 식별 정보를 전혀 사용하지 않고 움직임과 자세 패턴을 분석한다. 호프먼은 “케어풀 시큐리티의 아키텍처는 개인 프라이버시 권리를 보호하면서도 고객에게 완전한 분석 기능, 웰니스 개선 정보, 추세 탐지 기능을 제공한다”라고 강조했다.
dl-ciokorea@foundryco.com