매킨지, 생성 AI를 통한 기술 발전의 순간: CIO 및 CTO 가이드

생성 AI를 통한 기술 발전의 순간: CIO 및 CTO 가이드

CIO와 CTO는 생성 AI로 비즈니스와 기술을 재구상하기 위해 9가지 조치를 취할 수 있습니다.

생성 AI와 관련된 새로운 비즈니스 파괴 개발이 미디어에 등장하지 않고는 하루도 지나지 않습니다. McKinsey 연구에서는 생성 AI가 연간 2조 6,000억 달러에서 4조 4,000억 달러에 해당하는 가치를 추가할 수 있다고 추정합니다. 

CIO와 CTO는 그 가치를 파악하는 데 중요한 역할을 하지만 이전에 이 장면을 본 적이 있음을 기억할 필요가 있습니다. 인터넷, 모바일, 소셜 미디어와 같은 새로운 기술이 등장하여 수많은 실험과 시험을 촉발시켰지만 중요한 비즈니스 가치를 얻기가 더 어려운 경우가 많았습니다. 이러한 개발에서 얻은 교훈 중 많은 부분이 여전히 적용되며, 특히 파일럿 단계를 넘어 규모에 도달하는 경우에는 더욱 그렇습니다. CIO와 CTO에게 생성 AI 붐은 생성 AI의 약속을 비즈니스를 위한 지속 가능한 가치로 전환하는 데 C-suite를 안내하기 위해 이러한 교훈을 적용할 수 있는 특별한 기회를 제공합니다.

수십 명의 기술 리더와의 대화와 50개 이상의 회사(당사 매킨지 포함)의 생성 AI 이니셔티브 분석을 통해 우리는 모든 기술 리더가 가치 창출, 기술 및 데이터 조정, 솔루션 확장, 위험 관리를 위해 취할 수 있는 9가지 조치를 확인했습니다.

1. 생성 AI 채택에 대한 회사의 자세를 결정하기 위해 신속하게 움직이고 직원에 대한 실용적인 커뮤니케이션과 적절한 액세스를 개발하십시오.
2. 비즈니스를 재구상하고 향상된 생산성, 성장 및 새로운 비즈니스 모델을 통해 가치를 구축하는 사용 사례를 식별합니다. 생성 AI의 실제 비용과 수익을 추정할 수 있는 "금융 AI"(FinAI) 기능을 개발합니다.
3. 기술 기능을 재구상하고 소프트웨어 개발에서 생성적 AI 기능을 신속하게 구축하고 기술 부채 감소를 가속화하며 IT 운영에서 수작업을 크게 줄이는 데 집중하십시오.
4. 기존 서비스를 활용하거나 오픈 소스 생성 AI 모델을 채택하여 독점 기능을 개발하십시오(자체 생성 AI 모델을 구축하고 운영하는 데 적어도 단기적으로는 수천만 달러에서 수억 달러의 비용이 들 수 있음).
5. 엔터프라이즈 기술 아키텍처를 업그레이드하여 생성적 AI 모델을 통합 및 관리 하고 모델이 서로 작동하는 방식과 기존 AI 및 머신러닝 모델, 애플리케이션 및 데이터 소스와 함께 작동하는 방식을 조율합니다.
6. 정형 및 비정형 데이터 소스를 모두 처리하여 양질의 데이터에 액세스할 수 있도록 데이터 아키텍처를 개발합니다 .
7. 필요에 따라 제품 및 애플리케이션 팀에 승인된 모델을 제공하기 위해 중앙 집중식 교차 기능 생성 AI 플랫폼 팀을 만듭니다.
8. 소프트웨어 개발자, 데이터 엔지니어, MLOps 엔지니어 및 보안 전문가와 같은 주요 역할과 광범위한 비기술 인력의 기술 향상에 투자하십시오. 그러나 생성 AI의 다양한 영향으로 인해 역할 및 숙련도 수준에 따라 교육 프로그램을 맞춤화 해야 합니다.
9. 새로운 위험 환경을 평가하고 모델, 데이터 및 정책을 해결하기 위한 지속적인 완화 방법을 수립합니다.

1. 생성 AI 도입을 위한 회사의 자세 결정

생서 AI의 사용이 점점 더 널리 퍼지면서 우리는 CIO와 CTO가 공개적으로 사용 가능한 애플리케이션에 대한 직원 액세스를 차단하여 위험을 제한하는 방식으로 대응하는 것을 보았습니다. 그렇게 함으로써 이러한 회사는 혁신의 기회를 놓칠 위험이 있으며 일부 직원은 이러한 움직임이 중요한 새로운 기술을 구축하는 능력을 제한하는 것으로 인식하기도 합니다.

대신 CIO와 CTO는 리스크 리더와 협력하여 비즈니스에서 생성 AI 기술 구축의 중요성과 리스크 완화에 대한 실질적인 필요성 사이의 균형을 맞춰야 합니다. 이를 위해서는 비즈니스가 감내할 수 있는 위험 수준과 생성 AI가 비즈니스의 전체 전략에 어떻게 부합하는지에 대한 합의를 구축하여 생성 AI에 대한 회사의 입장을 확립해야 합니다. 이 단계를 통해 기업은 전사적 정책 및 지침을 신속하게 결정할 수 있습니다.

정책이 명확하게 정의되면 리더는 이를 비즈니스에 전달하고 CIO와 CTO는 조직에 적절한 액세스 권한과 사용자 친화적인 지침을 제공해야 합니다. 일부 기업에서는 생성 AI에 대한 전사적인 커뮤니케이션을 시작하고, 특정 사용자 그룹에게 생성 AI에 대한 광범위한 액세스를 제공하고, 사용자가 모델에 내부 데이터를 입력할 때마다 경고하는 팝업을 만들고, 사용자가 공개적으로 사용 가능한 생성 AI 서비스에 액세스할 때마다 표시되는 가이드라인 페이지를 구축했습니다.

2. 생산성 향상, 성장, 새로운 비즈니스 모델을 통해 가치를 창출하는 사용 사례 파악

CIO와 CTO는 이미 많은 기업에서 볼 수 있는 '사용 사례에 의한 죽음(death by use case)' 열풍에 대한 해독제 역할을 해야 합니다. 이들은 CEO, CFO 및 기타 비즈니스 리더와 협력하여 생성 AI가 기존 비즈니스 모델에 어떻게 도전하고, 새로운 비즈니스 모델의 문을 열고, 새로운 가치원을 창출할 수 있는지 고민하는 것이 가장 큰 도움이 될 수 있습니다. 기술적 가능성에 대한 깊은 이해를 바탕으로 CIO와 CTO는 회사 전체에서 생성 AI의 혜택을 받을 수 있는 가장 가치 있는 기회와 이슈를 파악해야 하며, 그렇지 않은 이슈는 무엇인지 파악해야 합니다. 경우에 따라서는 제너레이티브 AI가 최선의 선택이 아닐 수도 있습니다.

예를 들어, 맥킨지 연구에 따르면 생성 AI는 특정 마케팅 사용 사례(예: 고객 선호도에 대한 비정형 및 추상 데이터 분석)의 생산성을 약 10%, 고객 지원(예: 지능형 봇을 통한)은 최대 40%까지 높일 수 있습니다. CIO와 CTO는 특히 도메인(고객 여정 또는 비즈니스 프로세스 등) 또는 사용 사례 유형(창의적인 콘텐츠 제작 또는 가상 에이전트 등)별로 사용 사례를 가장 잘 클러스터링하는 방법을 개발하는 데 도움이 될 수 있으므로 생성 AI의 가치를 극대화하는 관점을 갖추는 것이 좋습니다. 기회를 식별하는 것이 가장 전략적인 작업은 아니지만(수많은 생성 AI 사용 사례가 존재합니다), 인재와 역량의 초기 한계를 고려할 때 CIO와 CTO는 비즈니스가 제너레이티브 AI 우선순위를 정하는 데 도움이 되는 실현 가능성과 리소스 추정치를 제공해야 합니다.

이러한 수준의 조언을 제공하려면 기술 리더가 비즈니스와 협력하여 생성 AI 이니셔티브의 실제 비용과 수익을 추정할 수 있는 FinAI 역량을 개발해야 합니다. 단위 경제학에서 여러 모델 및 공급업체 비용, 모델 상호 작용(쿼리에 각각 고유한 수수료가 부과되는 여러 모델의 입력이 필요할 수 있음), 지속적인 사용료, 인적 감독 비용을 고려해야 하므로 비용 계산은 특히 복잡할 수 있습니다.

3. 기술 기능의 재구상

생성 AI는 기술 기능의 작동 방식을 완전히 바꿀 수 있는 잠재력을 가지고 있습니다. CIO와 CTO는 생성 AI가 모든 기술 영역에 미칠 수 있는 잠재적 영향을 종합적으로 검토해야 하지만, 경험과 전문성을 구축하기 위해 신속하게 조치를 취하는 것이 중요합니다. 초기 에너지를 집중할 수 있는 세 가지 영역이 있습니다:

• 소프트웨어 개발: McKinsey 연구에 따르면 생성 AI 코딩 지원을 통해 소프트웨어 엔지니어는 코드를 35~45% 더 빠르게 개발하고, 코드를 20~30% 더 빠르게 리팩터링하며, 코드 문서화를 45~50% 더 빠르게 수행할 수 있습니다. 또한 생성 AI는 테스트 프로세스를 자동화하고 에지 사례를 시뮬레이션하여 팀이 출시 전에 더욱 탄력적인 소프트웨어를 개발하고, 코드 기반에 대해 제너레이티브 AI에 질문하여 신규 개발자의 온보딩을 가속화할 수 있도록 지원합니다. 이러한 이점을 활용하려면 코드 볼륨의 급증을 관리하기 위해 광범위한 교육과 DevSecOps 관행을 통한 통합 및 배포 파이프라인의 자동화가 필요합니다.
• 기술 부채: 기술 부채는 기술 예산의 20~40%를 차지하며 개발 속도를 크게 늦출 수 있습니다. CIO와 CTO는 기술 부채 대차대조표를 검토하여 코드 리팩토링, 코드 번역, 자동화된 테스트 사례 생성 등의 생성 AI 기능이 기술 부채 감소를 가속화할 수 있는 방법을 결정해야 합니다.
• IT 운영(ITOps): CIO와 CTO는 생성 AI가 프로세스를 가속화할 수 있는 방법을 결정하기 위해 ITOps 생산성 노력을 검토해야 합니다. 생성 AI의 기능은 셀프 서비스 에이전트를 통한 비밀번호 재설정, 상태 요청 또는 기본 진단과 같은 작업 자동화, 라우팅 개선을 통한 분류 및 해결 가속화, 주제 또는 우선순위와 같은 유용한 컨텍스트 표면화 및 제안 응답 생성, 방대한 로그 스트림 분석을 통한 관찰 가능성 개선으로 주의가 필요한 이벤트 식별, 표준 운영 절차, 사고 사후 분석 또는 성능 보고서와 같은 문서 개발에 특히 유용합니다.

4. 기존 서비스 활용 또는 오픈 소스 생성 AI 모델 채택

생성 AI 기능을 개발하기 위한 전략에 있어서는 "임대, 구매, 구축"이라는 고전적인 결정의 변형이 존재합니다. 기업은 비즈니스에 독점적인 이점을 창출할 수 있는 생성 AI 역량에 투자하고, 상품에 가까운 서비스는 기존 서비스에 액세스해야 한다는 기본 원칙은 여전히 유효합니다.

CIO와 CTO는 이러한 옵션의 의미를 세 가지 원형으로 생각해 볼 수 있습니다:

• 수용자(Taker) - 채팅 인터페이스 또는 API를 통해 공개적으로 사용 가능한 모델을 사용자 지정이 거의 또는 전혀 없이 사용합니다. 좋은 예로는 코드를 생성하는 기성 솔루션(예: GitHub Copilot)이나 디자이너의 이미지 생성 및 편집을 지원하는 솔루션(예: Adobe Firefly)을 들 수 있습니다. 이는 엔지니어링 및 인프라 요구 사항 측면에서 가장 단순한 원형이며 일반적으로 가장 빠르게 시작하고 실행할 수 있습니다. 이러한 모델은 기본적으로 퍼블릭 모델에 프롬프트 형태로 데이터를 공급하는 데 의존하는 상품입니다.
• 셰이퍼(Shaper) - 모델을 내부 데이터 및 시스템과 통합하여 보다 맞춤화된 결과를 생성합니다. 한 가지 예로, 생성 AI 도구를 고객 관계 관리(CRM) 및 재무 시스템에 연결하여 고객의 이전 판매 및 참여 이력을 통합함으로써 판매 거래를 지원하는 모델을 들 수 있습니다. 또 다른 예는 회사 내부 문서와 채팅 기록으로 모델을 미세 조정하여 고객 지원 상담원의 보조 역할을 하는 것입니다. 생성 AI 기능을 확장하거나, 더 많은 독점 기능을 개발하거나, 더 높은 보안 또는 규정 준수 요구 사항을 충족하고자 하는 기업에게는 셰이퍼 원형이 적합합니다. 이 아키타입에서 데이터를 생성 AI 모델과 통합하는 데는 두 가지 일반적인 접근 방식이 있습니다. 하나는 온프레미스 또는 클라우드 환경의 조직 인프라에서 모델을 호스팅하는 '모델을 데이터로 가져오기'입니다. 예를 들어, Cohere는 고객의 클라우드 인프라에 기초 모델을 배포하여 데이터 전송의 필요성을 줄입니다. 다른 접근 방식은 조직이 데이터를 집계하여 클라우드 인프라에 대규모 모델의 사본을 배포할 수 있는 '모델에 데이터 가져오기'입니다. 두 가지 접근 방식 모두 기초 모델에 대한 액세스를 제공한다는 목표를 달성할 수 있으며, 조직의 워크로드 풋프린트에 따라 어떤 접근 방식을 선택할지 결정할 수 있습니다.
• 메이커(Maker) - 개별 비즈니스 사례를 해결하기 위해 기초 모델을 구축합니다. 기초 모델 구축은 비용이 많이 들고 복잡하며 방대한 양의 데이터, 심도 있는 전문 지식, 대규모 컴퓨팅 성능이 필요합니다. 이 옵션을 사용하려면 모델을 구축하고 학습시키는 데 수천만 달러 또는 수억 달러에 달하는 상당한 일회성 투자가 필요합니다. 비용은 학습 인프라, 모델 아키텍처 선택, 모델 매개변수 수, 데이터 크기, 전문가 리소스 등 다양한 요인에 따라 달라집니다.

각 원형에는 기술 리더가 고려해야 할 고유한 비용이 있습니다(예시 1). 효율적인 모델 학습 접근 방식과 시간이 지남에 따라 낮아지는 GPU 컴퓨팅 비용과 같은 새로운 개발로 인해 비용이 낮아지고 있지만, 메이커 아키텍처의 고유한 복잡성으로 인해 단기간에 이를 채택하는 조직은 거의 없습니다. 대신 대부분의 조직은 상품 서비스에 빠르게 액세스하기 위해 테이커와 기본 모델 위에 독점적인 기능을 구축하기 위해 셰이퍼를 조합하여 사용할 것입니다.

5. 엔터프라이즈 기술 아키텍처를 업그레이드하여 생성 AI 모델을 통합 및 관리

조직은 다양한 크기, 복잡성 및 기능을 가진 많은 생성 AI 모델을 사용할 것입니다. 가치를 창출하려면 이러한 모델이 비즈니스의 기존 시스템 또는 애플리케이션과 함께 작동할 수 있어야 합니다. 이러한 이유로 생성 AI를 위한 별도의 기술 스택을 구축하면 해결하는 것보다 더 많은 복잡성이 생성됩니다. 예를 들어, 예약 문제를 해결하기 위해 여행사에서 고객 서비스에 문의하는 소비자를 볼 수 있습니다(그림 2). 고객과 상호 작용할 때 생성 AI 모델은 여러 애플리케이션과 데이터 소스에 액세스해야 합니다.

테이커 아키텍처의 경우 이러한 수준의 조정이 필요하지 않습니다. 하지만 셰이퍼 또는 메이커로서 생성 AI의 이점을 확장하고자 하는 기업의 경우, CIO와 CTO는 기술 아키텍처를 업그레이드해야 합니다. 주요 목표는 생성 AI 모델을 내부 시스템과 엔터프라이즈 애플리케이션에 통합하고 다양한 데이터 소스에 대한 파이프라인을 구축하는 것입니다. 궁극적으로, 기업의 엔터프라이즈 기술 아키텍처의 성숙도에 따라 제너레이티브 AI 기능을 통합하고 확장할 수 있습니다.

LangChain 및 LlamaIndex와 같은 통합 및 오케스트레이션 프레임워크의 최근 발전으로 다양한 생성 AI 모델을 다른 애플리케이션 및 데이터 소스와 연결하는 데 필요한 노력이 크게 줄었습니다. 모델이 사용자 쿼리에 응답할 때 API를 호출할 수 있도록 하는 것(예: GPT-4는 함수를 호출할 수 있음)을 포함하여 몇 가지 통합 패턴도 등장하고 있습니다. 검색 증강 생성으로 알려진 기술. 기술 리더는 조직에 대한 참조 아키텍처 및 표준 통합 패턴(예: API를 호출하는 사용자 및 모델을 식별하는 표준 API 형식 및 매개변수)을 정의해야 합니다.

생성 AI를 효과적으로 통합하기 위해 기술 아키텍처에 통합해야 하는 5가지 핵심 요소가 있습니다(그림 3).

• 컨텍스트 관리 및 캐싱을 통해 모델에 엔터프라이즈 데이터 원본의 관련 정보를 제공합니다. 적시에 관련 데이터에 액세스해야 모델이 컨텍스트를 이해하고 설득력 있는 결과를 생성할 수 있습니다. 캐싱은 자주 묻는 질문에 대한 결과를 저장하여 더 빠르고 저렴하게 응답할 수 있도록 합니다.
• 엔터프라이즈 데이터 자산에 대한 적절한 액세스를 보장하는 정책 관리인 제어 기능은 예를 들어 직원 보상 세부 정보가 포함된 HR의 생성 AI 모델에 조직의 다른 부서에서 액세스할 수 없도록 보장합니다.
• 모델 허브는 필요에 따라 프로비저닝할 수 있는 훈련되고 승인된 모델을 포함하고 모델 체크포인트, 가중치 및 매개변수의 저장소 역할을 합니다.
• 프롬프트 라이브러리는 모델이 업데이트될 때 프롬프트 버전 관리를 포함하여 생성형 AI 모델에 최적화된 지침이 포함되어 있습니다.
• 업그레이드된 MLOps 기능을 포함한 MLOps 플랫폼으로, 제너레이티브 AI 모델의 복잡성을 고려합니다. 예를 들어, MLOps 파이프라인에는 올바른 지식을 검색하는 모델의 능력 측정과 같은 작업별 성능을 측정하기 위한 계측이 포함되어야 합니다.

아키텍처를 발전시키면서 CIO와 CTO는 빠르게 성장하는 생성 AI 공급자 및 도구의 생태계를 탐색해야 합니다. 클라우드 제공업체는 규모에 맞는 하드웨어 및 기반 모델은 물론 급증하는 서비스 세트에 대한 광범위한 액세스를 제공합니다. 한편 MLOps 및 모델 허브 공급자는 기반 모델을 조정하고 프로덕션에 배포하기 위한 도구, 기술 및 사례를 제공하는 반면, 다른 회사는 특정 작업을 수행하기 위해 기반 모델 위에 구축된 사용자가 직접 액세스하는 애플리케이션을 제공합니다. CIO와 CTO는 생성 AI 모델을 배포하고 운영하기 위해 이러한 다양한 기능이 어떻게 조합되고 통합되는지 평가해야 합니다.

6. 양질의 데이터에 액세스할 수 있는 데이터 아키텍처 개발

생성 AI 모델에서 비용 절감, 향상된 데이터 및 지식 보호 등 가치를 창출하고 확장하는 기업의 능력은 자체 데이터를 얼마나 잘 활용하느냐에 달려 있습니다. 이러한 이점을 창출하는 것은 생성 AI 모델을 내부 데이터 소스에 연결하는 데이터 아키텍처에 의존하며, 이는 컨텍스트를 제공하거나 모델을 미세 조정하여 보다 관련성 높은 출력을 생성하는 데 도움이 됩니다.

이러한 맥락에서 CIO, CTO, 최고 데이터 책임자는 긴밀히 협력하여 다음을 수행해야 합니다.

• 생성 AI 모델에서 사용할 수 있도록 데이터를 분류하고 구성합니다. 기술 리더는 정형 및 비정형 데이터 소스를 모두 포함하는 포괄적인 데이터 아키텍처를 개발해야 합니다 . 이를 위해서는 생성 AI 사용을 위해 데이터를 최적화하기 위한 표준 및 지침을 마련해야 합니다. 예를 들어, 다양성과 크기를 개선하기 위해 합성 샘플로 교육 데이터를 보강합니다. 미디어 유형을 표준화된 데이터 형식으로 변환 추적성과 데이터 품질을 개선하기 위해 메타데이터를 추가합니다. 데이터를 업데이트합니다.
• 기존 인프라 또는 클라우드 서비스가 생성 AI 애플리케이션에 필요한 방대한 양의 데이터 저장 및 처리를 지원할 수 있는지 확인합니다.
• 생성 AI 모델을 "맥락 이해"를 제공하는 관련 데이터 소스에 연결하기 위해 데이터 파이프라인 개발의 우선 순위를 지정합니다. 새로운 접근 방식에는 벡터 데이터베이스를 사용하여 임베딩(특별히 형식화된 지식)을 생성적 AI 모델에 대한 입력으로 저장하고 검색하는 것과 모델에 좋은 답변의 예가 제공되는 "몇 번의 샷 프롬프트"와 같은 상황 내 학습 접근 방식이 포함됩니다.

7. 중앙집중식 다기능 생성 AI 플랫폼 팀 구성

대부분의 기술 조직은 제품 및 플랫폼 운영 모델로 전환하는 여정을 진행 중입니다. CIO와 CTO는 이 운영 모델에 생성 AI 기능을 통합하여 기존 인프라를 구축하고 생성 AI의 도입을 빠르게 확장해야 합니다. 첫 번째 단계는 승인된 생성 AI 모델을 제품 및 애플리케이션 팀에서 사용할 수 있도록 온디맨드 방식으로 프로비저닝할 수 있는 플랫폼 서비스를 개발하고 유지 관리하는 데 중점을 두는 생성 AI 플랫폼 팀을 구성하는 것입니다. 또한 플랫폼 팀은 생성 AI 모델이 내부 시스템, 엔터프라이즈 애플리케이션 및 도구와 통합되는 방식에 대한 프로토콜을 정의하고 책임 있는 AI 프레임워크와 같이 리스크를 관리하기 위한 표준화된 접근 방식을 개발 및 구현합니다.

CIO와 CTO는 플랫폼 팀에 적절한 기술을 갖춘 인력이 배치되도록 해야 합니다. 이 팀에는 총괄 관리자 역할을 하는 선임 기술 리더가 필요합니다. 주요 역할에는 생성 AI 모델을 기존 시스템, 애플리케이션, 도구에 통합하는 소프트웨어 엔지니어, 모델을 다양한 기록 시스템과 데이터 소스에 연결하는 파이프라인을 구축하는 데이터 엔지니어, 모델을 선택하고 프롬프트를 엔지니어링하는 데이터 과학자, 여러 모델과 모델 버전의 배포 및 모니터링을 관리하는 MLOps 엔지니어, 새로운 데이터 소스로 모델을 미세 조정하는 ML 엔지니어, 데이터 유출, 액세스 제어, 출력 정확도, 편향성 같은 보안 문제를 관리하는 리스크 전문가 등이 포함됩니다. 플랫폼 팀의 정확한 구성은 전사적으로 제공되는 사용 사례에 따라 달라집니다. 고객 대면 챗봇을 만드는 것과 같이 강력한 제품 관리 및 사용자 경험(UX) 리소스가 필요한 경우도 있습니다.

현실적으로 플랫폼 팀은 처음에는 우선순위를 정하여 좁은 범위의 사용 사례에 대해 작업하고, 재사용 가능한 기능을 구축하고 무엇이 가장 효과적인지 학습하면서 점차 작업 범위를 확장해야 합니다. 기술 리더는 비즈니스 리드와 긴밀히 협력하여 어떤 비즈니스 사례에 자금을 지원하고 지원할지 평가해야 합니다.

8. 역할 및 숙련도 수준에 따라 맞춤형 업스킬링 프로그램 제공

생성 AI는 직원의 생산성을 크게 높이고 역량을 강화할 수 있는 잠재력을 가지고 있습니다. 하지만 역할과 기술 수준에 따라 혜택이 고르지 않게 분배되기 때문에 리더는 직원들이 실제로 필요로 하는 기술을 구축하는 방법에 대해 다시 생각해야 합니다.

예를 들어, 생성 AI 도구인 GitHub Copilot을 사용한 최근의 경험적 연구에 따르면 소프트웨어 엔지니어는 35~45% 더 빠르게 코드를 작성할 수 있었습니다. 그러나 이점은 다양했습니다. 고도로 숙련된 개발자는 최대 50~80%의 속도 향상을 경험한 반면, 주니어 개발자는 7~10%의 속도 저하를 경험했습니다. 이는 생성 AI 도구의 결과물을 얻으려면 엔지니어가 코드를 비판, 검증 및 개선해야 하는데, 경험이 부족한 소프트웨어 엔지니어는 이를 수행하기 어렵기 때문입니다. 반대로 한 연구에 따르면 고객 서비스와 같이 기술 수준이 낮은 직무에서는 생성 AI가 생산성이 14% 향상되고 직원 이직률도 감소하는 등 저숙련 근로자에게 큰 도움이 된다고 합니다.

이러한 격차는 기술 리더가 최고 인사 책임자(CHRO)와 협력하여 미래의 인력을 구축하기 위한 인재 관리 전략을 재고해야 할 필요성을 강조합니다. 최고 수준의 AI 인재를 채용하는 것이 중요하며, 이러한 인재의 희소성과 전략적 중요성을 고려할 때 기술 리더는 경쟁력 있는 급여와 비즈니스의 중요한 전략적 업무에 참여할 수 있는 기회와 같은 인재 유지 메커니즘을 마련해야 합니다.

하지만 기술 리더는 채용에서 멈출 수 없습니다. 기존의 거의 모든 역할이 생성 AI의 영향을 받을 것이므로 역할, 숙련도 수준, 비즈니스 목표에 따라 필요한 기술이 무엇인지 명확히 파악하여 직원의 스킬을 향상시키는 데 중점을 두어야 합니다. 소프트웨어 개발자를 예로 들어 보겠습니다. 초보자를 위한 교육은 코드 생성자뿐만 아니라 최고의 코드 리뷰어가 되기 위한 과정을 가속화하는 데 중점을 두어야 합니다. 글쓰기와 편집의 차이와 마찬가지로 코드 검토에도 다른 기술이 필요합니다. 소프트웨어 엔지니어는 좋은 코드가 어떤 것인지 이해하고, 생성 AI가 생성한 코드의 기능, 복잡성, 품질, 가독성을 검토하고, 코드 자체에 품질이나 보안 문제가 발생하지 않도록 하면서 취약점을 스캔해야 합니다. 또한 소프트웨어 개발자는 사용자 의도를 더 잘 이해하여 프롬프트를 생성하고 생성 AI 도구가 더 나은 답변을 제공하는 데 도움이 되는 컨텍스트 데이터를 정의하는 등 코딩과 관련하여 다르게 생각하는 방법을 배워야 합니다.

기술 인재를 교육하는 것 외에도 CIO와 CTO는 비기술 인재의 생성 AI 기술을 구축하는 데 중요한 역할을 할 수 있습니다. 이메일 생성 및 작업 관리와 같은 기본적인 업무에 생성 AI 도구를 사용하는 방법을 이해하는 것 외에도, 비즈니스 전반의 사람들이 성능과 결과물을 개선하기 위해 다양한 기능을 사용하는 데 익숙해져야 합니다. CIO와 CTO는 이러한 교육과 관련 인증을 제공하기 위해 아카데미 모델을 조정하는 데 도움을 줄 수 있습니다.

경험이 부족한 엔지니어의 가치가 감소함에 따라 가장 많은 인력이 주니어 레벨에 있는 전통적인 인재 피라미드에서 벗어나 기술 인력의 대부분이 숙련된 인력으로 구성된 다이아몬드와 같은 구조로 전환하는 것이 가속화될 것입니다. 실질적으로 이는 단위 테스트 작성과 같이 복잡도가 낮은 수작업에 전념하는 역할을 줄이면서 주니어 직원의 역량을 최대한 빠르게 구축하는 것을 의미합니다.

9. 새로운 위험 환경을 평가하고 지속적인 완화 방법을 수립

생성 AI는 '환각'을 포함하여 새로운 윤리적 질문과 위험을 제시합니다. 기밀 개인 식별 정보의 우발적 공개; 모델이 사용하는 대규모 데이터 세트의 내재적 편향 지적 재산(IP)과 관련된 높은 수준의 불확실성. CIO와 CTO는 법조문(국가마다 다름)뿐만 아니라 비즈니스 평판을 책임 있게 관리하는 정신을 준수하기 위해 윤리, 인도주의 및 규정 준수 문제에 능통해야 합니다.

이 새로운 환경을 해결하려면 사이버 관행에 대한 상당한 검토와 소프트웨어 개발 프로세스를 업데이트하여 위험을 평가하고 모델 개발이 시작되기 전에 완화 조치를 식별해야 합니다. 그러면 문제가 줄어들고 프로세스 속도가 느려지지 않습니다. 환각에 대한 입증된 위험 완화 조치에는 반응을 생성할 때 모델의 창의성 수준("온도"라고 함)을 조정하는 것이 포함될 수 있습니다. 더 많은 컨텍스트를 제공하기 위해 관련 내부 데이터로 모델을 보강합니다. 생성될 수 있는 것에 대한 보호막을 부과하는 라이브러리 사용; 결과를 확인하기 위해 "조정" 모델을 사용합니다. 명확한 면책 조항을 추가합니다. 초기 생성 AI 사용 사례는 조직이 불가피한 차질을 극복하고 학습을 통합할 수 있도록 오류 비용이 낮은 영역에 초점을 맞춰야 합니다.

데이터 프라이버시를 보호하려면 민감한 데이터 태깅 프로토콜을 설정 및 시행하고, 다른 도메인(예: HR 보상 데이터)에서 데이터 액세스 제어를 설정하고, 데이터가 외부에서 사용될 때 추가 보호 기능을 추가하고, 개인 정보 보호 장치를 포함하는 것이 중요합니다. 예를 들어 액세스 제어 위험을 완화하기 위해 일부 조직에서는 모델에 프롬프트가 제공되면 역할별로 액세스를 제한하는 정책 관리 계층을 설정했습니다. 지적 재산에 대한 위험을 완화하기 위해 CIO와 CTO는 기반 모델 제공자가 사용된 데이터 세트의 IP(데이터 소스, 라이센스 및 소유권)에 대한 투명성을 유지해야 한다고 주장해야 합니다.

생성 AI는 지금까지 본 기술 중 가장 빠르게 성장하는 기술 범주 중 하나가 될 것입니다. 기술 리더는 생성 AI 전략을 정의하고 형성하는 데 불필요한 지연을 허용할 수 없습니다. 이 공간은 계속해서 빠르게 발전하겠지만, 이 9가지 조치는 CIO와 CTO가 책임감 있고 효과적으로 생성 AI의 힘을 대규모로 활용하는 데 도움이 될 수 있습니다.

https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/technologys-generational-moment-with-generative-ai-a-cio-and-cto-guide