생성형 AI는 우리의 업무 환경과 사회를 변화시키고 있습니다. 사람과 기술이 상호작용할 새로운 방법을 제시하며 상상을 능가하는 속도로 영향을 끼치고 있죠. 최근 실시한 조사 결과는 생성형 AI에 대한 흥미로운 시각을 제시하고 있는데요, 기업 의사결정자들이 체감하는 생성형 AI의 해결 과제와 기회를 동시에 확인하실 수 있습니다.
대다수의 응답자는 GenAI를 통해 직원 만족도가 향상되었고(82%), 운영비용이 절감되었으며(73%), 고객 유지율이 높아졌다고(66%) 응답했습니다.
반면에 경영진의 80%가 데이터 프라이버시 및 보안에 대한 우려를 표명했으며, 거버넌스 프레임워크의 부족을 느낀다고 응답했고, 10%만이 규제 준수에 대해 준비되어 있다고 전했습니다.
미국 기업들은 비즈니스 및 직원 생산성 향상을 위한 생성형 AI의 잠재력에 열광하고 있는 것으로 나타났습니다. 그러나 경영진들은 이러한 열광 이면에 존재하는 이해의 격차, 전략적 계획의 부족, 인재 기근 현상 등이 기술의 완전한 가치를 실현하고 측정하는 데 걸림돌로 작용하고 있다고 바라보고 있습니다.
[질문 : 생성형 AI의 사용에 있어 우려되는 부분은 무엇입니까?]
이 연구는 올해 초 콜먼 파크스 리서치(Coleman Parkes Research Ltd.)가 실시하고 SAS가 후원한 것으로, 300명의 미국 GenAI 전략 또는 데이터 분석 의사결정권자를 대상으로 주요 투자 분야와 조직이 직면한 장애물을 파악하기 위해 실시되었습니다. 콜먼 파크스는 이 연구를 위해 미국 외 지역의 리더들을 대상으로도 설문조사를 진행했으며 이 글로벌 결과는 2024년 하반기에 공개될 예정입니다. 자세한 내용은 미국 시장에 대한 요약 보고서 [생성형 AI의 도전과제와 잠재력: 경쟁우위를 확보하는 방법]을 참조하시기 바랍니다. 보고서를 통해, 1) GenAI의 무한한 잠재력을 활용할 전략적 투자, 2) ROI를 가속할 GenAI 모범 활용 사례 식별 방법, 3) LLM의 정확성과 설명성을 증강시킬 수 있는 데이터 및 AI 기술, 4) 생성형 AI와 AI 기반 의사결정 시스템 결합 방법, 5) 폭발적인 혁신의 시대에 보다 적극적으로 조직을 정비하는 방법 등을 확인하실 수 있습니다.
“기업들은 대규모 언어 모델(LLM)만으로는 비즈니스 과제를 해결할 수 없다는 사실을 깨닫고 있습니다. GenAI는 조직의 모든 비즈니스 목표를 실현하는 데 도움이 되는 새 장난감이 아니라 초자동화와 기존 프로세스 및 시스템을 가속하는 이상적인 도구로 취급되어야 합니다. 모든 조직이 단번에 GenAI에 뛰어들어 그안에 ‘갇히기’ 전에, 점진적인 전략을 개발하고 LLM의 통합, 거버넌스, 설명 가능성을 제공하는 기술에 충분한 시간을 투자하는 것이 중요합니다.”
마리넬라 프로피, SAS 전략 AI 고문
조사 결과, 조직은 아래 네 가지 주요 구현 영역에서 걸림돌에 부딪히는 것으로 나타났습니다:
[질문 : 생성형 AI를 위한 효과적인 거버넌스 및 모니터링 구축에 있어 가장 큰 걸림돌은 무엇입니까?]
데이터 사용의 신뢰성과 규정 준수 : 10개 중 1개의 조직(8%)만이 LLM의 편향성과 개인정보 위험 측정이 가능한 신뢰할 수 있는 시스템을 갖추고 있습니다. 또한 미국 기업의 93%는 GenAI를 위한 포괄적인 거버넌스 프레임워크가 부족하며, 대다수가 규정 준수에 미달될 위험에 처해 있습니다.
기존 시스템 및 프로세스에 GenAI 통합 : 조직은 GenAI를 기존 시스템과 결합하려고 할 때 호환성 문제를 겪고 있다고 밝혔습니다.
재능과 기술. 사내 GenAI의 부족 : 적합한 인재의 채용이 어려워짐에 따라 조직의 리더는 GenAI 투자를 최대한 활용하기 위한 능력 있는 직원을 확보하지 못할 것을 걱정합니다.
비용 예측 : 경영진들은 LLM 사용과 관련된 직간접적인 비용이 엄청나다고 말합니다. 모델 제작자는 토큰 비용 추정치를 제공하지만, 조직은 그 이상의 큰 비용이 발생된다는 것을 알고 있습니다. 그러나 개인 지식 준비, 교육 및 ModelOps 관리에 드는 비용은 장기적이고 복잡합니다.
이외에도, GenAI 거버넌스와 모니터링에 대한 수준 높은 교육을 제공하고 있는 기업은 8%에 불과했으며, 기업 내의 GenAI 사용에 있어서 데이터 프라이버시(79%)와 보안 문제(80%)에 대한 우려도 높은 것으로 나타났습니다. 또한 70%의 응답자는 자사의 생성형 AI 시스템을 지속적으로 모니터링 할 수 있는 체계를 갖추지 못했다고 답변했습니다.
“여러가지 GenAI 관련 도전 과제의 해결을 위해서는 지속 가능하고 확장 가능한 방식으로 인간의 요구를 해결하는 동시에 최고의 가치를 제공하는 실제 활용 사례를 파악하는 것이 관건이 될 것입니다. SAS는 조직이 GenAI 기술 연관성을 유지하고, 현명하게 투자하며, 회복탄력성을 유지할 수 있도록 계속 지원할 것입니다.”
마리넬라 프로피, SAS 전략 AI 고문
조사결과를 종합하여 SAS는 몇 가지 의견과 조언을 제시했는데, 그 내용은 다음과 같습니다.
포괄적인 생성형 AI 전략 개발 이전에 의사결정권자들이 AI 활용능력을 갖출 것.
생성형 AI 도입을 위해 우선, 자사의 데이터를 정화하고, 자사 조직에 영향을 줄만한 활용 사례를 식별하여 참조할 것.
사용자 프라이버시와 보안성, 견고한 데이터 보호를 구현할 데이터 관리 툴을 갖출 것.
데이터 관리 및 분석툴로 LLM에 사용될 raw data의 잠재적 편향성을 최소화할 것.
생성형 AI 구현시 기존의 워크플로우 및 의사결정 플랫폼과 함께 작업할 것.
전략적 구축, 포괄적인 거버넌스, 기술적 통합에 집중하며 전문가의 도움을 받을 것.
[생성형 AI를 위한 SAS의 접근 방법]
무한한 가능성과 함께 철저한 점검과 대비가 동시에 필요한 생성형 AI. 현명한 준비와 도입으로 성공적인 비즈니스를 이루시길 바랍니다. 생성형 AI에 대한 보다 자세한 정보는 ‘생성형 AI’에서 확인할 수 있습니다.
