보험이 인공지능을 만난다 '보험-AI 기술 융합 컨퍼런스' 개최
행사는 ‘머신러닝을 활용한 보험 데이터 잠재가치 극대화 전략 및 글로벌 사례’를 주제로 인공지능이 한국, 중국 등 보험업에 적용된 선진 적용 사례와 글로벌 인공지능 기술의 발전 트렌드와 인사이트 공유
인공지능 전문기업 솔리드웨어(대표 박재현)는 14일(화) 오후 1시 양재동 엘타워 컨벤션 7층 그랜드 볼룸에서 손해보험, 생명보험사의 임원, 현업부서 실무책임자, IT/디지털부서 책임자 등를 대상으로 하는 국내 최초 보험과 인공지능 기술 융합 컨퍼런스를 개최한다.
행사는 ‘머신러닝을 활용한 보험 데이터 잠재가치 극대화 전략 및 글로벌 사례’를 주제로 인공지능이 한국, 중국 등 보험업에 적용된 선진 적용사례와 글로벌 인공지능 기술의 발전 트렌드와 인사이트를 공유한다.
또한 이번 행사에서는 언더라이팅(UW), 마케팅(CRM), 사기적발(FDS), 고객유지율(PPR) 등 다양한 보험 실무에 적용되어 수백억원의 이익을 창출함으로써 검증된 머신러닝 자동화 솔루션 ‘다빈치랩스(DAVinCI LABS)’의 실무 적용사례와 시연/상담을 제공함으로써 보험사들이 성공적으로 인공지능 기술을 도입하는 계기를 제공할 예정이다.
연사로는 박영민(삼성전자 리서치센터 연구원), 박재용(솔리드웨어 사업팀장), 정성원(DB손해보험 디지털혁신파트 차장), 박민경(메리츠화재 다이렉트 마케팅파트 과장), 안유화(성균관대학교 중국대학원 대우전임교수), 양용팅(중국 핑안보험그룹 인슈어테크 부문장)으로 보험 현업전문가는 물론 AI, 인슈어테크 글로벌 전문가들이 대거 참여한다.
솔리드웨어 박재현 대표는 ‘기술발전으로 인한 기존 산업의 변화요구는 먼 미래가 아닌 우리가 현재 당면한 과제’ 라며, ‘산업계는 더 이상 추상적인 희망과 구호가 아닌 오늘 현업에 적용할 수 있는 실용적 해결책을 요구한다. 솔리드웨어는 기술 격변의 시대에 기업들이 올바른 의사결정과 기술을 통한 실제적 이익을 창출할 수 있도록 기술전문 기업으로서 사회적 책임을 다하겠다.’고 행사 개최의의를 밝혔다.
한편 현재까지 삼성화재, DB손해보험, 현대해상, KB손해보험, 메리츠화재, 한화손해보험 등 손해보험사 15개사 와 삼성생명, 교보생명, 한화생명, 동양생명, 신한생명 등 생명보험사 20여개사 등 보험관련 기관까지 40여개사 수백명의 보험업 종사자들이 참가신청을 완료했다고 한다.
💌AI, 실제로 이렇게 사용된다🤖 보험 업계의 AI 활용 사례📋
|
보험 업계에서는 AI를 어떻게 활용하고 있을까?🤔
🌎글로벌 보험 기업 사례 3가지🌟 |
|
AI의 발전은 무수히 많은 산업 분야에 영향을 미치고 있습니다. 작게는 인공지능 업무 툴을 사용하는 것에서부터 크게는 인공지능 기반의 새로운 서비스 개발까지, 인공지능을 활용한 새로운 시도는 지금도 계속되고 있는데요.🚀 보험 산업도 예외는 아닙니다. AI를 통해 보험 산업은 효율성, 고객 경험, 위험 관리 등 다양한 부문에서 큰 변화를 맞이하고 있습니다.💫
AI는 빠르게 진화하는 보험 산업에서 시장을 혁신하고 경쟁력을 유지할 수 있는 도구인데요. AI를 통해 보험사는 운영 효율을 향상시키고, 다양한 시각에서 위험 평가를 진행하고, 고객의 특성에 맞게 상호 작용을 개인화하며, 소비자의 니즈에 기반한 혁신적인 보험 상품을 개발할 수 있습니다.🛠️ 의료나 법률 등 다양한 산업군에 비해, 국내 보험 업계에선 보험 정책이나 도입 리스크 등으로 인해 AI 도입에 속도를 내지 못하고 있는 모양샌데요. 해외 보험 업계에선 AI를 어떻게 활용하고 있는지 많이 사용된 상위 10가지 사례를 알아보겠습니다.👏 ✅청구 자동화➖AI를 통해 청구 프로세스를 간소화하여 처리 시간 단축 및 고객 경험 개선 ✅사기 감지➖AI 알고리즘을 통한 패턴 분석으로 사기 사례 분석 및 사기 감지 ✅보험 인수➖데이터 분석을 통한 인수 정확도 향상 및 위험 평가 반영 ✅고객 서비스➖실시간 AI를 통한 즉각적인 대응으로 콜센터 업무량 감소/고객 경험 개선 ✅개인화 마케팅➖고객 정보/행동 패턴 분석을 통한 개인화 마케팅으로 참여 및 전환 증대 ✅위험 평가➖예측 분석을 통한 리스크 관리 및 가격 책정 모델 개발 ✅텔레매틱스➖차량 및 운전 데이터 분석을 통한 보험금 및 행동 보상 제공 ✅문서 처리➖OCR 및 NLP를 통한 문서 및 양식 처리 간소화 ✅인사이트 발굴➖시장 및 고객 데이터 분석을 통한 제품 개발 및 고객 유지 전략 수립 ✅규정 준수➖정책/규정 변경 사항 모니터링으로 보고 프로세스 자동화 및 규정 준수 개선 실제로 많은 기업이 위와 같은 AI 기술을 적용해 서비스 혁신을 이루고 있는데요. 대표적인 사례로 손꼽히는 세 가지 사례를 소개해 드리겠습니다. |
|
🚩 AI 고객 서비스를 통한 고객 경험 혁신, 레모네이드(Lemonade)
보험 업계의 고질적인 문제로 꼽히는 것 중 하나는 복잡한 청구 프로세스입니다.😵 보험 청구는 양식 제출부터 검증, 평가 등 여러 절차를 거치며 짧게는 며칠, 길게는 몇 주가 소요되기도 하는데요. 이와 같은 비효율적인 프로세스는 고객의 불만을 낳고, 수많은 직원이 투입될 수밖에 없습니다. 미국의 인슈테크 스타트업인 레모네이드는 이처럼 비효율적인 청구 프로세스를 개편하기 위해 AI를 도입했습니다. AI와 머신러닝 시스템을 통합하여 양식 제출부터 보험금 지급까지 한 번에 처리할 수 있는 AI 청구 봇을 만들어 며칠이 걸리던 청구 프로세스를 단 몇 분 만에 끝낼 수 있었죠.🎯 레모네이드의 AI 청구 봇은 업무 처리의 효율을 극대화하며 수익성을 향상시켰을 뿐만 아니라 고객의 만족도와 충성심을 확보하는데도 큰 역할을 했는데요. 지금은 AI 청구 봇을 넘어 고객 서비스 및 보험 관리까지 AI 서비스를 확대하며 고객 중심적인 보험사로 자리매김하고 있습니다.🥰 🚩 텔레매틱스를 활용한 개인화, 프로그레시브(Progressive) 자동차 보험비는 전통적으로 인구 통계적 요인과 과거 데이터를 기반으로 책정되어 왔습니다.💵 여기엔 개인의 운전 스타일이나 라이프 스타일이 반영되지 않았는데요. 부드럽고 조심스러운 운전 스타일과 차량이 많지 않은 시간대에 운전하는 경우, 이런 획일화된 비용 체계에 불만을 가질 수 있습니다. 프로그레시브는 텔레매틱스 기술을 활용하여 고객의 실시간 주행 데이터를 수집하는 Snapshot 프로그램을 도입했습니다. 플러그인 장치나 모바일 앱을 통해 속도, 제동 패턴, 주행 시간대 등의 운전 습관에 대한 정보를 수집하는 것인데요.🛣️ 해당 정보는 AI 알고리즘에 따라 분석되고 개인에 맞춰진 보험료를 책정할 수 있었습니다. 프로그레시브는 AI를 통해 위험 수준을 평가하고 보험료를 책정하는 방식을 개선했습니다. 운행 습관에 따라 보험료가 낮아지기 때문에 운전자의 안전 운전을 장려하고 만족도도 높일 수 있었죠. 이처럼 개인화된 접근 방식은 고객 유치 및 관리에 도움이 되는데요. 국내 보험사 중에도 내비게이션과 연동해서 주행 습관에 따른 보험료 할인을 적용하고 있는 사례도 많이 있습니다.😮 🚩 사기 탐지와 프로세스 간소화, 올스테이트(Allstate) 우리는 언론을 통해 종종 보험 사기 사건을 접하곤 하지만, 이로 인한 피해는 상상 이상으로 큽니다. 2023년 보험 사기 적발액은 무려 1조 1천억 원을 넘기기도 했죠. 이러한 보험 사기는 보험사에 직접적인 손실을 가져오기도 하지만 기존 가입자에게도 보험료 인상이나 지급 정책 강화 등의 피해를 불러오기도 합니다.😠 올스테이트는 이러한 사기 피해 방지와 고객 만족도 향상을 위해 AI 및 머신러닝 기술을 도입했는데요. 회사의 고유 데이터를 분석하여 보험 사기 패턴과 가능성을 식별하는 AI 시스템을 구축했습니다.📊 이런 사전 예방적 접근 방식은 사기성 청구를 구분하는 데 큰 역할을 했다고 하는데요. 또한 데이터 추출부터 청구 처리 등 일상적인 보험 업무까지 자동화하여 업무 효율을 극대화했습니다. AI를 통한 사기 탐지 능력은 올스테이트의 불필요한 금전적 손실을 줄이고 보험 상품의 완성도를 높일 수 있었습니다. 또한, 업무 자동화는 내부 자원 활용 및 고객 경험을 향상하는 데 큰 역할을 했습니다.🔥 이처럼 많은 기업이 AI를 통해 서비스와 고객 경험을 혁신하고 있는데요. 성공적으로 AI를 도입하기 위해서는 무엇보다 기업 내부의 임직원들이 AI에 대한 비전과 필요성을 인지하고 적극적으로 협력하는 것이 필요합니다.🤝 또한, 타 기업의 레퍼런스를 통해 실행가능한 범위와 도입 성과를 유추해 보는 것도 중요하죠. 이제 더 이상 AI의 발전을 바라보는 것이 아니라 직접적인 참여를 통해 새로운 기회를 얻고 성장하며 경쟁력을 확보해야 하는 시점이 된 것 같습니다. |
|
글로벌 빅테크 기업이 이끄는 AI 시장은 초고속으로 성장하며 많은 산업에 변화를 불러오고 있습니다. 그중 가장 눈에 띄는 산업은 앞서 설명한 보험 업계에 이어, 금융권을 빼놓을 수 없는데요.💰 지난 2023년 대한상공회의소가 발표한 자료에 따르면 금융 및 보험 산업의 생성형 AI 잠재 활용도는 10.1%로 산업별 1위를 기록했습니다.🥇 실제로, 2024년 금융권 임원들을 대상으로 진행한 설문에서는 응답자의 56%가 ‘향후 3년 동안 비즈니스에 가장 중요할 것으로 예상되는 기술’로 AI/ML을 꼽을 만큼 많은 관심을 내비치고 있죠.✨
금융권의 인공지능에 대한 관심은 예전부터 있었지만, 이를 적극적으로 활용하게 된 시기는 ChatGPT 등장 이후입니다. 기존 검색엔진과는 차별화된 모습과 텍스트, 이미지, 영상을 넘나드는 다양한 AI 서비스의 등장은 AI 서비스의 무궁무진한 가능성을 보여주었는데요.😮 금융권의 경우, 스마트폰을 통해 한차례 디지털 혁신을 겪은 바 있어 AI 혁신도 발 빠르게 대처하는 모습입니다.😎 그렇다면, 금융권에선 AI를 어떻게 활용하고 있을까요? 삼정KPMG AI 센터는 금융사 조직 내 벨류체인을 기반으로 AI를 통한 금융산업 내 프론트-미들-백 오피스의 변화를 표로 제작했는데요. 각각의 단계에 따른 금융 업계의 AI 활용 예시를 알아보겠습니다. |
|
프론트 오피스 단계는 미국의 ‘JP모건체이스’를 예로 들 수 있습니다. JP모건체이스는 2024년 7월, 투자자 성향에 맞춰 투자 상품을 추천해 주는 AI 서비스인 ‘Quest IndexGPT’를 출시했는데요. 오픈AI의 GPT-4를 기반으로 운영되는 IndexGPT는 고객 정보와 AI, 빅데이터를 활용한 초개인화 자산관리 서비스로 클라우드 컴퓨팅, E스포츠, 사이버보안 등의 트렌드를 중심으로 테마형 인덱스를 자동으로 생성하여 투자를 자문한다고 합니다.💡
국내 금융 기업들도 IndexGPT와 같은 로보어드바이저 서비스를 제공하고 있는데요. 신한은행의 마이 AI 솔루션이나 KB의 케이봇쌤, 하나은행의 하이로보 등 많은 기업이 AI 알고리즘을 활용하여 투자 성향 정보에 따른 개인화된 자산 관리 서비스를 운영 중에 있습니다.💸 미들 오피스 단계는 ‘마스터카드’가 대표적인 예입니다. 마스터카드는 금융 사기 범죄를 막기 위해 생성형 AI를 도입한다고 밝혔는데요.🚨 이를 위해 5년간 70억 달러를 투자했고 내부 테스트 결과 사기 탐지율을 평균 20% 향상시켰으며, 특정 상황에서는 300% 개선한 사례도 있다고 합니다.🪝 마스터카드의 생성형 AI 모델은 은행이 네트워크에서 의심스러운 거래를 실시간으로 평가하고 문제의 소지를 판단할 수 있을 뿐만 아니라, 자사 결제 네트워크 발생 거래 데이터를 실시간으로 학습하여 사기 거래 방지 확률을 수치화하고 금융 사기 모델 분석을 통해 개선하는 데 도움을 주고 있습니다.🔥 마지막으로 백 오피스 단계는 ‘골드만삭스’를 예로 들 수 있습니다. 골드만삭스의 전사 생성형 AI 플랫폼인 GS AI Platform은 GPT-3.5, GPT-4, Gemini는 물론, Llama 등의 오픈 소스 모델을 하나의 플랫폼에서 활용할 수 있습니다. 이를 통해 다양한 유스 케이스에 맞는 LLM을 결정할 수 있으며, 내부 데이터 관리부터 다양한 모델과 인터페이스를 통한 개인화된 애플리케이션을 구축하고 있다고 하죠.⚙️ 또한, 골드만삭스는 약 900만 개의 문서에서 정보 분류 및 추출을 위한 생성형 AI를 개발 중인 것으로 알려졌는데요. 내부 전산의 유지보수를 위해 프로그래밍 코드를 생성하는 AI를 시범적으로 활용하고 있으며, 현재 AI 생성 코드의 약 40%를 실제 시스템에 적용한 상태라고 합니다.✨ 위에서 언급한 것처럼, 국내외 금융권에서는 적극적으로 AI를 도입하고 있는 모습입니다. 맥킨지에 따르면, AI가 금융권에 큰 영향을 미칠 것으로 예상되는 분야는 마케팅과 세일즈, 고객 관리, 소프트웨어 엔지니어링, 리스크 및 정책 부분으로 나타나기도 했는데요. 실제로, 스마트폰 속에 설치된 금융 애플리케이션이나 알림만 보더라도 AI를 적용한 사례를 쉽게 찾아볼 수 있습니다.👀 금융권에서는 프로세스 효율과 고객 경험 등 서비스 혁신에 적극적으로 AI를 활용하고 있습니다. 반면, 투자 여력이 없는 중소 금융사나 AI 전략을 세우지 못한 기업의 경우엔 상대적으로 경쟁력을 잃고 있는 모습인데요.💧 시장의 판도를 바꾸기 위해선 AI 투자 격차를 줄이려 노력하기보다 AI를 통한 고객 경험 혁신에 중점을 둔 전략이 보다 효율적으로 경쟁력을 확보할 수 있는 방법이지 않을까 생각해 봅니다.🌟 무궁무진한 잠재력을 가진 AI는 어떻게 활용하는지에 따라 그 이상의 결과를 가져오니 말이죠. |
메인라인, 토털 인슈어테크 플랫폼으로 도약 준비 마쳐
AI 적용 확대로 서비스 경쟁력과 생산성 강화에 돌파구
보험 가치사슬에 AI 기술 도입… 단계별 솔루션 마련해
저출산·고령화로 인한 역피라미드 인구 구조로의 변화가 보험산업에 위기감을 고조시키고 있다. 인구절벽에 대한 보험산업 위기는 국내뿐만 아니라 전 세계적인 문제다.
이에 글로벌 보험사들은 생성형 AI 등장 이후 보험 가치사슬에서 AI 적용을 확대하며 서비스 경쟁력과 생산성 강화에 돌파구를 찾고 있다.
하지만 국내 보험사는 AI를 업무 자동화와 간편심사 중심으로 도입하고 있어, AI 활용 범위가 초기 단계에 머물러 있다. 이런 상황에서 메인라인이 국내 기업에서 최초로 보험산업의 가치사슬에 AI 인슈어테크를 가장 먼저 적용해 눈길을 끌고 있다.
지난 23일 보험업계에 따르면 메인라인은 2019년부터 보험산업의 가치사슬을 고려한 단계별 특화 솔루션을 개발하고 가장 핵심적인 보험 업무에 해당하는 상품개발(MagicTerms, MagicPV)과 보상·지급(MagicClaim, MagicOne) 분야에 AI 기반 IDP(지능형 문서처리) 기술을 적용해 ‘지능형 보험업무 자동화 플랫폼 MCP(Micro Cube Platform)’를 구축했다.
메인라인의 MCP는 상품개발, 판매·영업, 가입설계, 언더라이팅, 보상·지급 등 보험 가치사슬의 단계별 특화 솔루션을 개발한 것이다.
특히 메인라인은 AI 기반 인슈어테크 기술을 적용해 상품개발 단계의 보험상품 기초서류관리 자동화와 PV 갱신·산출 자동화를, 보상·지급 단계의 약관기반 지급보험금 산출 자동화와 비즈니스 룰 개발 BRMS(Business Rule Management System)을 구축했다.
메인라인 관계자는 “단계별 특화 솔루션 간 연계 가능한 MCP를 더욱 고도화해 보험의 가치사슬 전 과정에 걸친 토털 인슈어테크 플랫폼 구축을 목표로 성장하고 있다”고 말했다.
보험산업의 가치사슬(Value Chain)이란 마케팅 및 유통, 리스크의 인수 및 가격 결정, 궁극적으로 보험금 지급까지의 과정을 의미한다.
최근 보험연구원이 발표한 ‘보험산업의 AI 활용과 과제’에 따르면 글로벌 보험회사들은 보험 가치사슬 내 업무지원과 보험금 청구 및 지급 등에 AI를 우선 적용해 업무 효율성을 제고하고 있으며, 생산성과 고객가치 향상 효과를 얻고 있다고 분석했다.
또한 국내 보험사의 경우는 AI 활용 범위가 확대될 것으로 기대되지만 아직까지 활용 수준이 초기 단계라고 진단했다. AI가 보험 가치사슬에 본격적으로 적용될 경우 그만큼 활용 범위와 잠재력이 크다는 것이다.
손재희 보험연구원 연구위원은 이번 보고서에서 “보험시장에서 생성형 AI 활용 범위가 확대되면서 AI 활용 관련 다양한 위험의 보장 니즈가 증가할 것으로 예상된다”며 “보험업계는 관련 시장 성장에 주목하고 선제적 준비를 할 필요가 있다”고 말했다.
자동차를 정비소에 보낼 정도로 사고가 크게 나면 들어둔 보험이 진가를 발휘합니다. 보험사는 빠른 손해사정과 치료비 지급으로 부상자의 회복을 돕고, 정비소와 신속한 소통을 통해 차량 수리를 원활하게 진행할 수 있도록 지원해 주기 때문인데요. 이때 AI가 활용됩니다. 바로 보험개발원이 서비스하는 AI 기반 자동차 수리비 자동견적 시스템 ‘AOSα(Automobile repair cost On-line Service alpha)’입니다.
“AOSα는 보험사와 정비소를 연결합니다. 이전에는 예상 수리비를 산출할 때 사람이 일일이 사진을 확인하고 검토했는데, 이제 AI가 프로세스를 자동화해 빠르게 결과를 도출합니다.”
보험개발원 AOS 서비스의 네트워크 구성도
AOSα는 정비업체와 보험사 간 사고 접수, 수리비 청구, 수리비 손해사정 업무 등을 실시간으로 처리하는 온라인 청구·손해사정 시스템입니다. 국내 대부분의 보험회사와 정비 공장에서 사용 중인데요. AI가 사고 차량의 사진만으로 예상 수리비를 산출합니다. 딥러닝 기반의 이미지 분석 기술로 차체 손상 부위와 차량 번호판을 자동 인식해 보험 계약 정보를 연결하고, 보상 직원의 업무 프로세스를 대폭 줄였습니다. 이를 통해 정비 업체와 보험사의 수리비 논의 시간을 단축하고, 고객에게 더 빠르고 정확한 서비스 제공하고 있어요.
자동차 수리비 지급 업무의 표준화를 넘어 보험금 지급 업무의 패러다임을 바꾸는 AI 서비스는 어떻게 구현할까요? 최근 보험개발원은 방대한 차량 수리 데이터를 마키나락스의 AI 플랫폼 Runway(런웨이)와 결합해 기존 AOSα 시스템을 획기적으로 개선하는 프로젝트를 진행했습니다. 이 과정에서 Runway는 어떤 역할을 했을까요? 보험개발원 장현웅 선임 연구원님과의 인터뷰를 통해 정리했습니다.
보험개발원이 AI 플랫폼 Runway를 선택한 이유
지속 가능한 AI 운영의 시작, 마키나락스 AI 플랫폼 Runway
보험개발원은 2024년 Runway를 도입하면서 기존에 사용하던 AI 플랫폼을 마이그레이션했습니다. AI 기반 서비스는 외부 환경이 바뀌고 새로운 데이터가 지속해서 유입되어도 높은 AI 성능을 유지해야 합니다. 그래야 서비스 품질을 지속적으로 향상시킬 수 있는데요. 이를 위해 AI 모델 개발, 배포, 재학습, 관리, 운영 등을 지원하는 AI 플랫폼 구축이 무엇보다 중요합니다. 보험개발원은 차량 사고 이미지 분석에 사용되는 다양한 AI 모델을 복합적으로 적용하고 신규 차종이 출시되면 프레임, 부품 등 관련 정보를 업데이트해야 하기 때문에 AI 플랫폼 구축을 필수 사항으로 고려했습니다.
"AI모델의 성능 향상을 위해서는 지속적인 모델 재학습이 필요한데요, 원활한 재학습은 물론 보험개발원 맞춤 AI 플랫폼이 필요했습니다."
마키나락스 Runway는 데이터 분석가와 모델 개발자를 위한 맞춤형 개발 환경을 제공합니다. 파이프라인을 통해 전문가들은 쉽게 재현 및 모델 개선을 할 수 있고 운영 담당자는 빠르게 배포할 수 있습니다.
하지만 데이터, AI 개발 프로세스, 인력 등과 긴밀하게 연결되어 있어 한번 쓰기 시작한 AI 플랫폼을 마이그레이션하는 일은 굉장히 까다롭습니다. 특히 보험개발원은 금융 분야 망 분리 규제로 온프레미스로 AI 플랫폼을 구축해야 하고 보안도 충족해야 할 조건이 많기 때문에 쉽지 않은 결정이었어요. 그러나 재학습과 유지보수가 안 되는 AI 플랫폼은 장기적으로 한계가 명확했습니다. 일찌감치 AI 플랫폼의 중요성을 인식한 보험개발원은 Runway가 금융 도메인 최고 수준의 보안을 충족하는 온프레미스 환경 지원, 대용량 트래픽 처리, 맞춤형 플랫폼 구축을 위한 전문 인력 지원, 다른 사업 영역 AI 확장성까지 확보 가능한 최적화 AI 플랫폼이라고 판단했습니다.
안정적인 실시간 AI 서비스 제공의 비결
AI가 실시간으로 자동차 수리비 견적을 분석하려면 사진 필터링, 부품 종류 인식, 손상유형 및 손상위치 인식, 수리유형 판단 모델 등 여러 개의 AI 모델이 유기적으로 협력해 정확도와 효율성을 높여야 합니다. 보험개발원은 Runway로 차 사고 이미지 분석에 사용되는 여러 AI 모델을 복합적으로 적용하고 신규 차종 출시에 따른 이미지 데이터를 관리하는 AI 모델의 재학습과 배포를 자동화했는데요. Runway의 AI 성능 모니터링 기능을 통해 지속적으로 성능을 분석하고 개선하고 있습니다. 덕분에 2019년 처음 AOSα 서비스를 시작했을 때보다 성능이 월등하게 좋아졌습니다.
"AOS는 한 달에 30만 건 정도 자동차 수리비 청구 요청을 처리하고 있습니다. 내부적으로는 하루에 약 700만 건 정도 트래픽이 처리되고 있는데 보안 문제없이 안정적으로 처리하고 있고, 1.5초 안에 서비스가 완료되는 것 자체가 Runway의 구조적인 장점이라고 생각해요. gRPC를 제공하는 AI플랫폼도 많지 않고요."
Runway는 배포된 모델의 성능과 추론 로그를 확인할 수 있어 AI 서비스의 운영 안정성을 보장합니다.
AOSα 클러스터 내부에서 처리되고 있는 트래픽은 약 700만 건에 달하는데요. 한 건의 요청을 처리할 때 발생하는 200~300건의 내부 TPS(transactions per second)도 1.5초 안에 안정적으로 처리되고 있습니다. 이는 약 20개의 AI 모델을 운영하고, 트래픽이 많은 상황에서도 엄격한 보안을 준수하며 안정성을 유지해 주는 Runway가 있기 때문이라고 생각해요.
Runway는 온프레미스 환경에서 Auto-scaling과 gRPC(Google Remote Procedure Call) 같은 효율적인 기능을 통해 고용량 데이터와 다양한 트래픽을 원활하게 처리합니다. 시스템이 과부하에 빠지지 않도록 자원을 효율적으로 분배해 여러 AI 모델이 동시에 작동하는 환경에서도 안정적인 서비스 운영을 보장합니다.
이렇게 대규모 트래픽을 빠르고 안정적으로 처리하기 위해서는 시스템 구조를 어떻게 설계하는지도 굉장히 중요한데요. 보험개발원은 기본적으로 개발망과 운영망의 워크로드를 완전히 분리하여 개발 작업이 운영 서비스에 영향을 끼치지 않도록 했습니다. 또한, 운영 환경을 마스터 노드 3대를 활용한 고가용성(HA, High Availability) 구조로 구축하고, 마스터와 워커 노드를 분리해 운영 최적화를 실현하였습니다. 이를 통해 AOSα 서비스는 고트래픽 환경에서도 실시간 서비스를 중단 없이 제공하고 있습니다.
Yes or Yes, 세심하고 전문적인 맞춤 지원
보험개발원은 AI 플랫폼 마이그레이션을 위해 다양한 선택지를 고려했습니다. 그중 자체 개발이라는 옵션도 있었는데요. 유지 보수 측면에서 어려움이 발생할 것이라는 우려가 있었습니다. 보험개발원은 IT 전문 기업이 아니기 때문에 AI 플랫폼 개발 프로젝트 담당자가 바뀌면 시스템을 제대로 대응하거나 관리할 수 없다는 점이 큰 문제였습니다. 보험개발원이 유지보수가 용이한 국내 AI 플랫폼 Runway를 선택한 이유기도 합니다.
“마키나락스는 한 번도 안 된다고 한 적이 없어요”
마키나락스에는 저희가 🔗Runway를 잘 사용할 수 있도록 지원하는 전담팀이 있는데, 전문적인 기술 지원 덕분에 프로젝트를 잘 진행할 수 있었습니다. Runway 딜리버리팀 PM 한규선님이 Runway에 대한 깊은 이해를 바탕으로 초기 단계에서 발생한 여러 기술적 문제에 빠르게 대응해 주셔서 해결할 수 있었습니다. 이슈가 발생했을 때는 명절 휴일도 반납해 가면서 문제를 해결해 주셨습니다. 복잡한 시스템 문제에도 끈질기게 문제의 원인을 파악하고, 효율적인 해결책을 제시해 주셨습니다. Runway Delta팀의 세심하고 전문적인 지원 덕분에 이번 프로젝트를 성공적으로 마칠 수 있었다고 생각합니다.
Runway 위에서 무한하게 확장되는 보험개발원 AI 서비스
Runway 위에서는 프로젝트 및 작업별로 자원을 지정하고 관리할 수 있으며, 다양한 인프라 요구 사항을 충족하여 기존 인프라 환경에 큰 변경 없이 AI 운영 환경을 구현합니다.
AOSα 서비스를 담당하고 있는 보험개발원의 자동차기술연구소는 AI 플랫폼의 핵심 인프라인 GPU 서버를 가장 많이 보유하고 있습니다. 이를 기반으로 AI 플랫폼 Runway를 구축했고 조직 내에서 AI를 필요로 하는 부서가 손쉽게 AI 환경을 확장할 수 있도록 지원하고 있습니다.
보험개발원은 AOSα의 실시간 AI 견적 산출 서비스를 시작으로 ‘AI 기반 중고차 가격 예측 서비스’, ‘LLM을 활용한 수리비 견적 서비스 고도화’ 등 AI 서비스를 확장할 계획입니다.
마키나락스 Runway가 AI 플랫폼으로 정착되고 첫 고도화 프로젝트가 성공적으로 마무리되면서 다른 사업이나 서비스에 AI를 적용하는 것이 수월해졌습니다. 일단 AI 모델 성능과 AI 플랫폼에 대한 신뢰도가 있으니 추가 챌린지가 없고, 이미 구축된 AI 플랫폼 Runway를 활용하여 비용 절감과 효율적인 운영이 가능해졌습니다. Runway가 보험개발원의 AI 기술 도입과 확장을 가속화하는 중요한 역할을 하고 있습니다.
AI 플랫폼, 그중 Runway를 추천합니다!
어떤 AI 플랫폼을 도입할까 이전에 ‘AI 플랫폼이 필요한가?’라는 검토가 있을 수 있습니다. AI 플랫폼의 도입 여부는 기업의 AI 전략을 반영합니다. AI 서비스를 지속해서 확장하려는 계획이 있다면 AI 모델의 재학습과 쉬운 배포가 가능한 환경 구축을 필수적으로 고려합니다. 단순히 GPU 서버에 AI 운영 환경을 구축해 기본적인 서비스만 구현하려 한다면, 일회성 프로젝트로 끝내려는 결정일 가능성이 큽니다.
보험개발원의 AOSα 서비스에서 알 수 있듯이 AI 플랫폼은 개발, 배포, 추론 결과의 수집까지 표준화와 자동화를 통해 안정적인 AI 서비스를 지원하는 핵심 기반입니다. 조직의 규모와 필요에 따라 고려할 수 있는 AI 플랫폼도 다른데요. 조직이 가진 다양한 환경에 유연하게 적용 가능한 AI 플랫폼을 찾고 있다면 마키나락스 Runway를 추천합니다.
AI 에이전트를 개발하는 과정은 일반적인 AI 모델 개발보다 더 복잡하고 체계적인 접근이 필요합니다. 주어진 입력값을 분석해 결과를 제공하는 AI 모델과 달리 AI 에이전트는 목표를 달성하기 위해 스스로 계획을 세우고 여러 작업을 실행하는 자율적 시스템이기 때문입니다. 특히 특정 도메인에 속한 산업이나 기업에 보다 정교한 맞춤형 해결책을 제공할 것으로 기대받고 있는 ‘Vertical AI 에이전트’를 구현하기 위해서는 도메인 특화 AI와 기업의 워크플로우에 대한 깊은 이해가 필요합니다.
관련 콘텐츠
- 산업을 이해하고, 기업을 혁신하는 Vertical AI 에이전트
- Agentic System을 구현하는 방법론 5가지
이제 막 일상에서 구현되기 시작한 AI 에이전트는 산업 현장에도 본격적으로 적용되고 있습니다. 마키나락스는 Vertical AI 에이전트를 활용해 산업별 특성과 고객의 요구를 충족시키는 맞춤형 AI 솔루션을 제공하고 있습니다. 대표적인 예로 품질 관리를 강화하기 위해 API 에이전트와 DB 에이전트를 결합해 데이터를 실시간으로 분석하고, 불량 원인을 추적해 공정 제어하는 시나리오를 구현한 사례가 있습니다. 마키나락스는 산업 현장에서 작동하는 AI 에이전트를 어떻게 구현했을까요?
Agent Flow: 특정 문제를 단계적으로 해결
MakinaRocks가 구현하는 산업 AI 에이전트 작동 원리
마키나락스는 2017년부터 제조, 자동차, 반도체, 배터리, 화학, 국방 및 공공, 유통 등 다양한 산업의 기업들이 직면한 문제를 AI로 해결해 왔습니다. 이를 위해 고객사에서 제공받은 데이터를 단순히 수집하는 데 그치지 않고, 실시간으로 분석하여 구조화했습니다. 그간의 노하우를 바탕으로 마키나락스는 각 문제에 맞는 AI 에이전트를 설계합니다. AI 에이전트는 단순한 데이터 처리 도구가 아니라, 특정 문제를 해결하기 위해 철저히 기능과 역할이 구분된 구성 요소로 개발됩니다. 예를 들어, 필요한 모든 API를 호출하는 역할을 하는 API 에이전트, 자연어 기반으로 고객사의 DB에서 필요한 데이터를 검색하는 DB 에이전트, 매뉴얼이나 기술 문서를 기반으로 적절한 조치를 추천하는 Retrieve 에이전트 등으로 구성해 개발합니다.
마키나락스는 개별 AI 에이전트들을 Agent Flow라는 단위로 묶어 운영하는 방법론을 도입했습니다. 예컨대, 제조 공정에서 불량률이 급증하는 상황이 발생할 경우 DB 에이전트가 과거 유사한 문제 사례나 장치 매뉴얼을 검색하고, 문서 처리 에이전트가 해결 방안을 제공하며, API 에이전트가 적절한 제어를 수행하는 일련의 프로세스를 사용자와 자연어로 소통하며 명령하는 형태로 수행했습니다.
Agent Flow를 통해 단순히 여러 에이전트를 나열하는 것이 아니라, 문제 해결을 위해 필요한 모든 요소를 하나의 흐름으로 묶는 것을 목표로 했습니다. 우리는 흔히 특정 문제를 해결하기 위해 파이프라인을 떠올립니다. 데이터를 처리하기 위해 정해진 순서대로 단계를 구성하고, 이를 순차적으로 실행하여 원하는 결과를 얻는 방식이죠. 하지만 마키나락스는 파이프라인의 여러 단점을 보완하고자 Agent Flow를 도입했습니다.
Pipeline vs Agent Flow
Pipeline과 Agent Flow는 Input 범위의 확장성과 답변의 유연성에서 큰 차이를 보입니다. 먼저 Input 범위의 확장성을 살펴볼게요. 일반 Pipeline은 특정 형식의 입력과 고정된 규칙에 의존하여 작동합니다. 이는 미리 정의된 입력값이나 형식만 처리할 수 있는 제한적인 구조를 가집니다. 반면, Agent Flow는 입력 처리 범위가 사용자의 의도 기반으로 확장될 수 있도록 설계되었습니다. 초기에는 특정 룰을 따르지만, 이후에는 사용자의 의도를 학습하여 유연하고 포괄적인 대응이 가능합니다.
질문에 대한 답변은 어떨까요? 일반 Pipeline은 입력에 따라 미리 정해진 결과물을 반환하는 고정된 처리 방식을 사용합니다. 제한적인 범위 내에서 동작하며 입력 유형이 다양해지면 유연성이 감소해요. 이에 반해, Agent Flow는 사용자의 질문과 문맥을 실시간으로 분석하여 동적으로 답변의 형태와 내용을 변경할 수 있습니다. 결과적으로 더 풍부하고 다채로운 결과물을 생성합니다. 이는 단순한 데이터 처리 기능을 넘어, 사용자의 의도와 맥락을 반영한 맞춤형 대화를 가능하게 합니다.
대상 고객이 명확하다면 예상 가능한 시나리오가 존재할 가능성이 높습니다. 따라서 특정 문제를 잘 해결하기 위해 Agent Flow와 같은 ‘뭉치’ 형태를 채택하는 것은 매우 효과적인 접근 방식이며, 불확실성과 위험성을 줄이는 데에도 도움이 됩니다. 반면, 불특정 다수를 대상으로 하는 서비스에서도 원하는 바나 예상 가능한 시나리오는 존재합니다. 따라서 이 경우에도 Agent Flow를 기반으로 문제를 해결하는 구조는 여전히 유효합니다. 예측 가능한 시나리오를 체계적으로 정리하고 자동화하는 방식은 대규모 고객층에 일관된 경험을 제공할 수 있기 때문입니다.
Autonomous Agent: 시나리오가 없어도 유연하게 해결
문제를 해결하는 과정에서 예상 가능한 범위를 벗어나는 상황은 매우 자연스럽게 발생합니다. 시나리오에 있는 문제를 해결한 뒤 발생하는 새로운 문제를 해결하거나 기존 시나리오에 없던 새로운 요청이나 예외적인 상황이 발생할 가능성도 있습니다. 이런 상황에서는 Agent Flow만으로 대응하기 어렵습니다. 따라서 모든 수단을 활용해 이러한 예외 상황을 자율적으로 해결할 수 있도록 설계된 Autonomous Agent가 필수적입니다.
Autonomous Agent는 불확실성과 변동성이 높은 환경에서도 유연하게 작동하도록 설계되었습니다. 기존 데이터를 학습하여 패턴을 이해하고 이를 기반으로 새로운 문제를 스스로 인식합니다. 또한, 필요한 리소스를 자동으로 활용하여 문제를 해결하기 위한 계획을 수립하며 추가 API 호출, 데이터 결합, 새로운 데이터 생성과 같은 방법을 통해 최적의 결과를 도출합니다. 이런 과정을 통해 예상하지 못한 고객 요청에도 유연하게 대응합니다.
마키나락스는 고객의 요구와 문제의 특성에 따라 상황별로 최적의 AI 에이전트 활용 전략을 채택하는 것이 문제 해결의 핵심이라고 믿습니다. 명확한 문제에는 고객 시스템과의 긴밀한 통합과 효율적인 자동화가 핵심인 Agent Flow 활용하고, 예외적인 요구에는 Autonomous Agent와 결합해 문제를 유연하게 해결하는 것이죠.
Vertical AI 에이전트 설계 원칙
마키나락스는 AI 에이전트의 구조와 구현 방식보다 설계 원칙을 가장 중요하게 생각합니다. 내부적으로 AI 에이전트의 범위를 정의하는 것이 쉽지 않았고, 이를 명확히 결정하기 위해 내부적으로 여러 차례 논의를 거듭해야 했습니다. 결국 명확한 정답을 찾기보다는 설계 원칙을 먼저 정하고, 이를 기반으로 AI 에이전트를 구축하는 방식이 가장 효과적이라는 결론을 내렸습니다. 마키나락스는 아래의 기본 원칙을 바탕으로 각 AI 에이전트가 특정 기능에 집중하면서도 다양한 요구에 유연하게 대응할 수 있는 생태계를 구축해 나가고 있습니다.
- 도구는 AI 에이전트 단위로 통합하기
AI 에이전트는 API, DB, 문서 등 다양한 도구를 통합해 활용할 수 있어야 하지만, 모든 도구를 동시에 사용할 필요는 없다고 판단했습니다. 도구의 수가 많아질수록 관리가 어려워질 수 있기 때문에, API 호출 및 관리를 담당하는 API 에이전트, DB에서 실시간 정보를 SQL문으로 가져오는 SQL(DB) 에이전트와 같이 기능 단위로 나누어 설계했습니다. 이를 통해 복잡성을 줄이고 각 에이전트가 본연의 역할에 집중할 수 있도록 하였으며, 향후 시스템 확장과 유지보수 측면에서도 유연성을 확보할 수 있었습니다.
- 원활한 협업을 위해 데이터 표준화하기
AI 에이전트 간 원활한 협업을 위해서는 입력과 출력이 일관된 포맷을 유지해야 했습니다. 이를 위해 LangGraph의 GraphState 개념을 활용하여 각 AI 에이전트가 처리한 데이터를 다른 AI 에이전트가 바로 이해하고 사용할 수 있도록 통합된 데이터 구조를 마련했습니다. 이러한 표준화된 입출력 방식 덕분에 정보 전달의 혼선을 줄이고, 각 AI 에이전트가 맡은 역할에 집중할 수 있게 되었습니다.
- Autonomous Agent와 Agent Flow의 연계성 확보하기
AI 에이전트는 독립적으로 동작할 수 있어야 하며, 여러 AI 에이전트가 연결된 Agent Flow에서도 문제없이 작동해야 합니다. 이는 특정 작업을 수행한 AI 에이전트가 결과를 다른 AI 에이전트로 전달하거나, 필요할 경우 여러 AI 에이전트가 협력하여 복잡한 작업을 처리할 수 있도록 설계되었음을 의미합니다. 이를 통해 다양한 작업 환경에서도 AI 에이전트들이 유기적으로 연결될 수 있도록 했습니다.
- AI 에이전트의 역할을 명확히 정의하기
AI 에이전트의 불필요한 역할 확장을 방지하는 것도 중요한 원칙이었습니다. 하나의 AI 에이전트가 자신의 역할을 벗어난 기능을 수행하면 시스템의 복잡도가 증가하고 불필요한 중복이 발생할 수 있습니다. 예를 들어, API 호출 결과만 전달해야 하는 AI 에이전트가 데이터를 추가 가공하여 최종 답변까지 생성하게 되면, 기능이 모호해지고 다른 AI 에이전트와의 협업에 혼선이 생길 수 있습니다. 따라서 각 AI 에이전트는 명확한 책임 범위 내에서만 작업을 수행해야 하며, 이를 통해 전체 시스템의 안정성과 효율성을 보장할 수 있습니다.
Agent Factory: AI 에이전트 구현을 위한 차세대 생태계
마키나락스는 산업 특화 AI 에이전트를 단순히 설계하고 제공하는 것을 넘어 빠르게 생성·조합해 유기적으로 상호작용할 수 있는 시스템을 구상하고 실현하는 데 집중하고 있는데요. 우리는 이 시스템을 ‘Agent Factory’라고 명명했습니다. Agent Factory 안에서는 다양한 AI 에이전트를 필요에 따라 빠르게 생성하고 각 에이전트를 최적의 위치에 배치함으로써 새로운 문제 상황에 맞춘 Agent Flow를 즉각적으로 구성할 수 있습니다. 또한, AI 에이전트 간 협업을 자동화하는 오케스트레이션 시스템과 외부 도구 연동 기능을 결합해 복잡한 업무 환경에서도 자율성 높은 Autonomous Agent도 효율적으로 설계할 수 있습니다. 기존의 생성된 AI 에이전트를 관리하여 손쉽게 다운받아 사용할 수 있도록 하고, 새롭게 만드는 AI 에이전트는 손쉽게 등록해 차후에 활용할 수도 있겠죠.
여기에 Agent Flow의 구조화된 프로세스와 Autonomous Agent의 유연성을 하이브리드 형태로 통합함으로써, 예측 불가능한 시나리오에도 동적으로 대응하는 차세대 에이전트 생태계를 구축합니다. 이러한 접근은 AI 에이전트의 활용도를 극대화하고, 고객이 원하는 솔루션을 더 빠르게 제공할 수 있는 기반을 마련할 것입니다.
마키나락스는 여러 산업군의 고객과 함께 성장하며 Vertical AI 에이전트의 표준을 만들어 나가고 있습니다. ‘AI 에이전트를 언제, 어떻게 활용할 것인가?’, ‘상황에 따라 적합한 AI 에이전트 전략을 어떻게 선택할 것인가?’라는 질문에서 발생하는 고민은 마키나락스의 기술 철학의 중심이며 고객에게 최적의 솔루션을 제공하기 위한 끊임없는 노력의 원동력이 되고 있습니다.
AI 에이전트. 2025년 지금 가장 주목받고 있는 키워드입니다. OpenAI, 마이크로소프트, 구글, 세일즈포스, 앤트로픽 등 글로벌 빅테크 기업들은 각기 다른 이름을 가진 AI 에이전트를 선보일 채비를 하고 있는데요. 덕분에 새로운 기술이 바꿔줄 우리의 새로운 일상에 대한 기대도 높아지고 있습니다.
전반적인 AI 에이전트의 기대와 가능성은 Vertical AI Agents(산업 특화 AI 에이전트)로 집중되고 있습니다. 세계적인 스타트업 액셀러레이터 기업 Ycombinator는 ‘Vertical AI 에이전트가 기존 SaaS보다 10배 더 커질 시장’이라고 전망했습니다. 딜로이트는 보고서를 통해 ‘2025년에는 생성형 AI를 사용하는 기업의 25%가 AI 에이전트의 파일럿 프로젝트나 개념 증명을 시작할 것’으로 예측했습니다.
AI 에이전트에 대한 이해도 마치기 전에 조명받고 있는 Vertical AI 에이전트은 무엇일까요? 실제 산업 현장에서는 AI 에이전트가 어떻게 활용될 수 있을까요? 그리고 AI 에이전트를 원활히 작동시키는 시스템은 어떤 구조로 작동할까요? 세 가지 질문에 대한 궁금증을 풀어보겠습니다.
AI Agents: 알아서 판단하고 행동하는 인공지능
AI 에이전트는 워크플로우가 유동적인 작업을 스스로 판단해 처리하는 지능형 시스템입니다. 기업의 특정 업무를 대행해 주는 회사를 에이전시라고 하잖아요. 이처럼 특정 업무를 대행해 주는 시스템을 AI 에이전트라고 말할 수 있습니다. AI 에이전트는 데이터를 통해 학습하고, 스스로 판단하며, 자율적으로 작업을 수행하는 특징을 가지고 있습니다. 핵심은 사람이 개입하지 않아도 자율적으로 목표를 설정하고 행동을 실행할 수 있는 능력을 갖추고 있다는 점입니다.
AI Agent 작동 원리 및 기반 기술
‘올해 남은 연차를 활용해 해외로 하이킹을 가고 싶은데 적합한 일정과 장소를 알려줘’라는 테스크를 AI 에이전트에게 줬을 때 어떤 순서로 작동하는지 살펴볼게요. 가장 먼저 요구사항을 이해합니다. 일정 제안과 여행지 추천이라는 요구사항을 식별한 후 정보를 수집합니다. 올해 남은 연차는 몇 개인지, 그 일자에 적합한 해외 장소는 어디인지, 그 시기 날씨와 항공편은 어떤지 알아봅니다. 그다음 그 정보를 바탕으로 조건에 맞는 날짜와 장소를 필터링해요. 그렇게 가장 적합한 장소와 일정을 추천하고, 사용자 피드백을 받죠. 이때 피드백이 만족스럽지 않으면 이 과정을 반복적으로 수행하고 개선해 사용자 맞춤형 최적화 여행 계획을 제안하고 항공권, 숙박 등을 예약할 수 있습니다.
Vertical AI Agents: 산업을 이해하는 맞춤형 AI 에이전트
AI 에이전트 단순히 컨텍스트 이해를 넘어서 추론 능력을 기반으로 필요한 워크플로우들을 스스로 만듭니다. 일련의 활동이 가능하게 된 이유는 지속해서 발전하고 있는 생성형 AI 기술들과 고도화된 소프트웨어 엔지니어링 기술이 결합됐기 때문인데요. 생성형 AI와 LLM 기술을 바탕으로 새로운 생산성 향상을 도모하고 있는 기업들에도 AI 에이전트는 새로운 가능성을 열어줄 것입니다. 앞서 언급한 빅테크들이 오피스의 업무 보조 역할을 하는 범용 AI 에이전트를 발전시키고 있다면, 기업의 본질적인 가치를 창출하는 핵심 비즈니스에 적합한 Vertical AI 에이전트는 또 다른 가능성을 열어 줄 것으로 보입니다.
Vertical AI 에이전트는 제조, 유통, 의료, 법률, 금융 등 특정 도메인에 깊이 있는 전문 지식을 이해하고 행동하는 AI입니다. 특정 산업이나 도메인에 특화된 AI 에이전트죠. 일반적인 AI 에이전트와 달리 도메인에 특화된 지식을 학습하거나 깊이 있는 이해가 가능한 시스템 설계 덕분에 해당 산업 혹은 기업의 워크프로우를 이해하고 있습니다. 그렇기에 고유의 데이터를 분석해 예측할 수 없는 상황이나 작업의 유동성을 고려해 자율적으로 판단하고 대응하며 더 정교한 맞춤형 해결책을 제공합니다. 기업은 우리 회사가 하는 일을 이해하고 있는 Vertical AI 에이전트를 통해 우리 회사가 직면한 문제보다 효과적으로 해결할 수 있을 것입니다.
Vertical AI Agents 활용 시나리오
산업 현장에서 Vertical AI 에이전트는 어떻게 행동할까요? 산업에 특화된 AI 에이전트는 LLM 기술을 바탕으로 보다 구체적인 작업을 수행합니다. 마키나락스가 직접 부딪친 현장을 기반으로 작성한 시나리오를 소개합니다.
Vertical AI 에이전트 활용 시나리오
산업 특화 AI 에이전트를 활용해 산업 현장의 설비 관리를 자동화한다고 가정해 보겠습니다. 먼저 이상탐지 AI 모델이 장비의 이상을 사전에 탐지합니다. 그러면 바로 검색 에이전트가 적합한 사례와 데이터를 검색해 원인을 알려줍니다. 원인을 알았으니 해결책을 찾아야겠죠. 분석 에이전트가 설비에서 수집된 데이터, 로봇의 조치 기록, 매뉴얼 데이터 등 에 접근해서 원인 분석 결과를 제공합니다. 이러한 데이터들을 통합적으로 분석하는 작업은 기존 AI 기술로는 어려웠던 영역입니다. 하지만 LLM을 결합하면 이러한 데이터를 하나의 통합된 인터페이스에서 손쉽게 확인할 수 있게 됩니다.
분석 결과를 바탕으로 제어 에이전트가 문제를 해결할 수 있는 코드를 생성하고 장비를 제어합니다. LLM이 Vertical AI 에이전트 형태로 발전하면서 특정 테스크를 이해하고 이를 수행하는 워크플로우를 생성하거나 코드를 작성하여 설비를 제어할 수 있게 됩니다. 작업자가 직접 수행하던 특정 수준 이상의 알람이 발생하면 설비를 멈추거나 가동 속도를 조정하는 작업을 Vertical AI 에이전트를 통해 자동으로 처리할 수 있게 됩니다.
시나리오에서는 특정 상황을 가정했지만, 궁극적으로 산업 현장에서는 Vertical AI 에이전트가 데이터 기반으로 상황을 인지하고 자율적으로 판단해 문제를 처리하는 자율화를 목표로 하고 있습니다.
Compound AI System: AI Agents가 원활하게 작동하는 시스템
Compound AI System은 여러 개의 AI 모델, Agent, 리트리버, 데이터베이스, 외부 도구 등 다양한 구성 요소를 통합해 AI 작업을 효과적으로 처리하는 시스템입니다.
산업 현장은 ERP, MES, SCM 등 다양한 시스템에서 생성되는 로우 데이터와 수많은 센서 및 설비에서 출력되는 데이터를 포함해 방대한 양의 정보를 생성합니다. Compound AI System은 이런 환경에서 여러 에이전트가 협력하여 문제의 원인을 분석하고, 해결 방법을 제시해 줄 모델을 호출하고 해결할 수 있도록 데이터를 불러오거나 판단을 수행해 주어진 문제를 해결할 수 있게 해주는 기반이 됩니다.
연관 콘텐츠
- 산업의 어렵고 복잡한 문제를 해결하는 Compound AI System
- 산업 지능화를 위한 Compound AI System 적용 사례들
Compound AI System 아래에서는 수많은 Vector DB, API, AI 모델, AI 에이전트, Agentic System이 서로 상호작용하며 문제를 풀게 됩니다. 특히 AI 에이전트는 서로 유기적으로 각 역할을 수행하면서 좋은 답변 혹은 사용자가 원하는 액션을 취할 수 있게 됩니다. 이러한 작동 체계를 Agentic System이라고 합니다. 하나의 에이전트가 전체 문제를 해결하는 방식이 아니라 문제를 쪼개서 여러 에이전트가 각각의 문제를 담당해 큰 문제를 풀게 되는 거죠. 또 여러 에이전트의 작업 순서와 실행을 지시하고 시스템 전체를 모니터링하는 에이전트 Orchestration도 주목 받는 키워드 중 하나입니다.
AI 에이전트 그리고 Compound AI System이 효과적으로 작동하려면, 모든 AI 모델과 생성형 기술이 단일 운영 체제(OS) 또는 마키나락스의 Runway와 같은 AI 플랫폼 위에서 동작해야 합니다. AI 플랫폼을 통해 다양한 데이터를 통합적으로 활용하고, AI 에이전트 구성을 쉽게 할 수 있을 때 AI의 잠재력을 더욱 극대화할 수 있습니다. 앞으로 이러한 플랫폼 기반의 AI 에이전트가 다양한 도메인에 적용되어 자동화를 넘어 자율화 그리고 초 생산성(super-productivity)의 시대를 열 것으로 기대합니다.
지금까지 AI 에이전트와 Vertical AI 에이전트의 정의와 작동하는 시스템을 훑어봤습니다. 다음 포스팅에서는 Agentic System을 구현하는 방법론들을 살펴봅니다.
AI는 기업 혁신의 필수 요소로 자리 잡고 있지만, 준비 단계는 회사마다 다르기 때문에 우리의 상황에 맞는 맞춤형 진단이 필요합니다. 마키나락스가 준비한 체크리스트를 통해 우리 회사의 AI 준비 상태를 면밀하게 점검하고 적절한 계획을 세워보세요. 우리가 여행을 준비하는 것처럼 현재 준비 단계를 체크해 보고 다음 단계를 계획할 수 있도록 정리했습니다.
우리 회사 AI 단계 확인하기
체크리스트를 확인하셨나요? 준비 상태에 따라 추가로 보완해야 할 영역을 점검하고 구체적인 실행 계획을 세워 보세요. 마키나락스가 지원할 수 있는 부분은 링크로 연결해 두었습니다.
1단계: AI 여행지 선택 전(0~2개)
아직 여행지를 결정하기 전이군요. AI 도입 생각은 있는데 어디서부터 시작해야 할지 막막해 보입니다. AI 도입의 필요성을 내부적으로 더욱 강조하고, 타사의 성공사례를 분석하며 우리 회사에는 AI를 어떻게 적용할 수 있을지 구체화할 필요가 있습니다.
이 단계에서는 마키나락스 블로그, 웨비나, 뉴스레터를 참고하는 것을 추천드립니다. 🔗블로그에서는 마키나락스가 산업 현장에 적용한 AI 성공 사례와 AI 최신 기술 동향을 전달해 드립니다. 🔗웨비나에서는 구체적인 기술 구현 방법을 공유하고 있어요. 이 소식들은 🔗뉴스레터를 통해 꾸준히 전달하고 있어요. 🔗마키나락스 AI Inception 프로그램을 통해 AI 도입이라는 여행을 시작하기 전, 여행지와 지도를 함께 찾아볼 수도 있어요.
2단계: AI 여행 가방을 챙긴 준비 상태(3~5개)
여행지를 정하고 여행 가방을 챙기셨나요? AI 도입에 대한 기본적인 준비가 시작된 상태입니다. 우리 기업의 핵심 비즈니스 프로세스에 AI 도입을 위한 데이터 수집 및 관리 체계를 일부 구축했습니다. AI 프로젝트 실행이나 성과를 도출하기 위해서 클라우드 및 서버 인프라를 확실히 구축하고, AI 프로젝트 추진 조직을 더 명확히 구성해야 할 때입니다.
조직 내에 데이터 사이언티스트나 AI 개발자를 확보하는 것이 어렵다면, 마키나락스와 같은 파트너를 찾아 협력하는 것도 좋은 방법입니다. 산업 데이터를 많이 다뤄본 전문가와 협력해 파일럿 프로젝트를 준비하고 실행에 옮겨야 합니다. 🔗마키나락스에 문의하셔서 AI 도입 상담을 받아보세요. 여러분 AI로드맵을 설계하고 실행하는 것까지 함께합니다.
3단계: 첫 번째 AI 목적지 도착(6~8개)
이제 여행을 시작해 첫 번째 목적지에 도착한 단계입니다. AI 도입을 통해 비즈니스 핵심 프로세스를 효율화하려는 첫걸음을 내디뎠고, 이를 더 많은 사업 영역으로 확장할 준비가 되어 있습니다. 여행 중 새로운 장소와 문화에 익숙해진 것처럼, AI에 대한 자신감도 생겼을 겁니다. 이제 운영 자동화를 위한 AI 플랫폼 도입을 준비할 때입니다.
AI 모델이 지속적으로 새로운 데이터를 재학습하고 성능을 개선할 수 있도록, AI 플랫폼을 도입해 운영 효율성을 높이세요. 🔗마키나락스의 AI 플랫폼 런웨이(Runway)는 어떨까요? 마키나락스의 런웨이는 성공적인 AI 프로세스 구축을 위해 🔗전담팀인 Runway Delta팀이 기업의 맞춤형 커스텀을 지원하고 추가 피드백을 제품 개발에 반영합니다. AI 플랫폼을 통해더 많은 AI 경험을 쌓고, AI 역량을 내재화하는 것을 추천합니다.
4단계: AI 여행 전문가(9~10개)
여러 나라를 여행한 전문가처럼, 이제 AI가 기업의 핵심 프로세스로 자리 잡은 단계입니다. AI를 전사적으로 확장할 준비가 되어 있다고 볼 수 있습니다. 핵심 비즈니스 프로세스에 적용한 AI의 라이프사이클 운영이 자동화 됐고, 비즈니스 전략 최적화까지 이루어지며, AI는 회사의 핵심 전략의 중요한 일부분이 되었습니다. 이제 더 넓은 세계를 향해 나아갈 일만 남았습니다.
혹시 마키나락스와 AI 여정을 함께하고 계신가요? 그렇다면 NEXT ATTENTION 연사를 제안드립니다. 그동안 쌓아온 AI 노하우를 공유해 주시겠어요? 여행 중 겪은 흥미로운 에피소드처럼, 여러분의 AI 도입 노하우도 많은 기업에 영감이 될 수 있습니다. 참여 연락을 기다리고 있을게요! (contact@makinarocks.ai)
2024년 10월 24일, 마키나락스의 첫 AI 컨퍼런스 ATTENTION 2024가 열렸습니다. 마키나락스의 AI 기술, 경험과 더불어 LG AI연구원, SK텔레콤 R&D, 현대자동차그룹, 메이머스트 등 AI를 선도하는 기업들의 인사이트로 가득찼던 ATTENTION 2024 현장을 전합니다.
Welcome to the ATTENTION 2024
ATTENTION은 AI가 이끄는 산업 혁신의 미래를 논의하기 위해 마키나락스가 마련한 자리입니다. 컨퍼런스의 이름은 AI 혁신의 핵심 개념에서 착안했는데요. 🔗‘Attention is all you need’는 2017년 구글이 Transformer 구조를 처음 발표하며 딥러닝과 자연어 처리 분야에서 큰 혁신을 가져온 논문입니다. 마키나락스도 2017년부터 산업 특화 AI 기술로 기업의 핵심 비즈니스 프로세스들을 지능화해 생산성을 극대화하고 있는데요. ATTENTION에는 Attention 메커니즘이 AI 성능의 혁신을 이끌었던 것처럼 이번 컨퍼런스가 AI를 통해 복잡하고 예측 불가능한 현실 세계에서 새로운 지평을 여는 중요한 기회가 되길 바라는 의미를 담았습니다.
ATTENTION 2024가 시작되기 전부터 많은 분들이 행사장을 찾아 주셨습니다. 마키나락스의 AI 플랫폼 Runway와 산업 특화 AI, 다양한 프로그램을 소개하기 위해 마련한 부스에서는 평소 AI와 관련해 궁금했던 점들을 해소하려는 참가자들로 활기가 넘쳤는데요. 키노트 세션에서는 어떤 혁신적인 인사이트를 나눴는지 살펴볼까요?
산업 현장에서 시작되는 Real-World AI의 시대
마키나락스 윤성호 대표
키노트 세션의 첫 발표는 윤성호 마키나락스 대표가 진행했습니다. ‘산업 현장에서 시작되는 Real-World AI의 시대’를 주제로 한 발표에서 진정한 AX(AI Transformation)를 위해서는 기업의 ‘핵심 비즈니스 프로세스’에 AI가 적용되어야 한다고 강조했는데요. 마키나락스가 바라보는 핵심 비즈니스 프로세스는 기업의 생산성 및 비용과 직결되는 연구개발, 생산/품질, 공급망 관리, 유통/물류 등 Real World(물리적 세계)에 속해있습니다. 윤성호 대표는 AI가 불러올 파급력은 실제 산업 현장에 적용되는 Real-World AI가 실현될 때 비로소 기업의 생산성에 획기적인 변화를 불러일으킬 수 있다고 전망했는데요. 더 자세한 발표 내용은 아래 영상에서 확인할 수 있습니다.
미래를 여는 Hyperconnected AI platform
마키나락스 심상우 CTO
이어진 심상우 CTO의 ‘Beyond MLOps: Hyperconnectivity의 미래를 열다’ 발표에서는 Real-World AI를 실현하는 Compound AI System을 구축하기 위한 🔗초연결 AI 플랫폼 런웨이(Hyperconnected AI platform, Runway)를 소개했습니다. 마키나락스 심상우 CTO는 기업의 복잡한 문제를 해결하기 위해서는 AI 모델의 라이프사이클을 관리하는 MLOps를 넘어 모든 요소를 유기적으로 연결하는 초연결성이 필요하다고 강조했습니다. 그러면서 멀티모달 데이터, 복수의 AI 모델, 기업 내 시스템, 외부 툴, 현장 전문가 그리고 AI를 연결하는 Runway의 세 가지 강점을 설명했는데요. Compound AI System의 구성요소와 자세한 Runway에 대한 설명은 영상에서 확인할 수 있습니다.
- 📹 Beyond MLOps:Hyperconnectivity의 미래를 열다
최초 공개합니다!
AI Inception 그리고 Runway Lite
ATTENTION 2024에서 하이라이트는 마키나락스의 AI 퀵윈(Quick-Win) 프로그램 ‘AI Inception’과 새로운 제품 라인업인 ‘런웨이 라이트(Runway Lite)’를 공개하던 순간이었습니다. AI Inception은 AI 시작이 어려운 기업을 위해 짧은 기간 내에 핵심 비즈니스 프로세스에 AI를 적용해 빠르게 성과를 창출할 수 있도록 돕는 프로그램인데요. 마키나락스의 AI 플랫폼 ‘런웨이’, 산업 특화 AI 개발 노하우, 산업 분야의 풍부한 경험을 총망라해 AI 전문가들이 과제 발굴부터 AI 구현과 적용에 이르는 전체 과정을 이끌며 성공적인 사례를 만들도록 설계했습니다. 프로그램이 종료된 후에도 지속적인 협업을 통해 기업이 AI 역량을 내재화할 수 있도록 로드맵도 함께 제시할 예정인데요. 마키나락스와 AI Inception을 함께 해보고 싶거나, 궁금한 점이 있다면 아래 링크를 통해 알려주세요.
👉 MakinaRocks AI Inception 신청하기
마키나락스가 이번 컨퍼런스를 통해 공개한 런웨이 라이트는 기존 엔터프라이즈 고객을 중심으로 제공되던 AI 플랫폼 런웨이의 가벼운 버전입니다. 소규모 기업이나 팀, 연구소에서 복잡한 인프라 및 서버 설정 없이 간편하게 설치해 AI 개발 시스템을 도입할 수 있고, 데이터셋과 실험 이력 관리 기능을 제공해 동료와 효율적으로 협업할 수 있는 환경을 제공합니다. 이를 통해 아이디어를 빠르게 검증해 AI 개발 생산성을 높일 수 있어요. AI Inception과 런웨이 라이트의 공통점은 더 많은 기업이 AI 도입의 장벽을 허물고 AX를 실현할 수 있도록 시작을 앞당기는 것인데요. 마키나락스는 더 많은 기업이 빠르게 AI 혁신을 시작하고 성공적인 AI Transformation을 이루어 나가도록 지속적으로 지원할 예정입니다.
AI 혁신을 이끄는 리더들의 인사이트
LG AI연구원 배경훈 원장(왼쪽)과 SK텔레콤 이종민 미래R&D담당(오른쪽)
키노트 세션에서는 마키나락스와 긴밀하게 협업하고 있는 AI 리더들의 발표도 이어졌습니다. LG AI연구원 배경훈 원장은 '모두를 위한 포용적 AI, EXAONE' 발표에서 엑사원을 지속적으로 업데이트해 앞으로는 LAM 기반의 Actionable AI 에이전트로 발전시킬 계획이라고 밝혔습니다. 이 과정에서 LG가 보유한 제조, 바이오, 서비스 등 다양한 도메인의 핵심 비즈니스 프로세스에 마키나락스를 비롯해 다양한 기업과 협력하며 AI 기술을 성공적으로 적용해 글로벌 경쟁력을 갖춘 한국형 AI를 만들어 나가겠다고 전했습니다.
SK텔레콤 이종민 미래R&D담당 역시 AI 생태계를 확장하는 비전을 발표했습니다. SK텔레콤이 다양한 기술 요소를 연결하여 ‘AI to Everywhere’라는 목표를 실현하고 있으며, AI 기반 데이터 센터(AIDC)를 포함한 여러 분야에서 마키나락스와 같은 기술력 있는 파트너사와 협력해 AI 시대의 핵심 경쟁력을 확보하고자 한다고 설명했습니다.
AI Engineered for the Real World
이어진 세션에서는 마키나락스가 2017년부터 산업 현장에 AI를 적용하고 발전시키면서 쌓은 기술력을 기반으로 비즈니스 임팩트를 내고 있는 경험과 기술을 사례를 통해 공유했습니다. 연결해 둔 영상 링크를 통해서 산업 전반의 AI 인사이트는 물론 우리 회사에 적용할 수 있는 실질적인 방법을 확인해 보세요.
마키나락스 전종섭 솔루션 아키텍트(왼쪽)와 허영신 CBO(오른쪽)
- 📹 복잡한 AI 프로세스, 빠르게 자동화하기-마키나락스 전종섭 아키텍트
- 📹 생성형 AI로 해결하는 산업 현장의 과제들-마키나락스 허영신 CBO
순서대로 마키나락스 유리 허샤 ML 엔지니어, 임용섭 CDSO, 메이머스트 AI SW 플랫폼 기술팀 김진효 수석부장
MakinaRocks is all enterprises need
이번 행사를 준비한 마키나락스, 특히 마케팅팀의 여름과 가을은 온통 ATTENTION으로 가득했습니다. 바쁘신 와중에 많은 기대를 안고 찾아주신 분들께 걸맞는 경험을 제공하기 위해 숨 가쁘게 달려온 시간이었습니다.
- "실제 사례 중심의 소개가 인상적이었고, 제조업에서 가지고 있는 고민들을 마키나락스가 어떻게 풀어가고 있는지 들어볼 수 있는 좋은 기회였습니다." - CJ제일제당 최o준 님
- "한국을 대표하는 스타트업을 뛰어 넘어 세계 시장에 이름을 알릴 수 있는 기업으로 발전하길 진심으로 기원합니다." - 성우하이텍 최o우 님
기분 좋은 피드백과 함께 AI 혁신을 공유하고자 한 열정이 결실을 맺은 이번 행사를 통해, 마키나락스는 앞으로도 AI의 가능성을 널리 알리고 더 큰 성장을 이어나갈 계획입니다. 마키나락스가 펼쳐나갈 더 많은 혁신의 순간들을 기대해 주세요!
마키나락스의 첫 번째 자체 컨퍼런스 ATTENTION 2024에 여러분을 초대합니다.
ATTENTION 2024는 마키나락스의 기술과 혁신 사례를 조명하고, AI 분야의 최신 연구, 발전, 이슈에 대한 심도 있는 논의를 통해 AI가 가져올 변화를 함께 모색하는 자리입니다.
AI는 산업 현장에 어떤 혁신을 가져올까요? ATTENTION 2024에서는 그 해답을 찾을 수 있는 다양한 키노트와 세션이 준비되어 있습니다. 자동차, 반도체, 배터리, 화학 등 여러 산업 분야에서 AI가 어떻게 활용되고 있는지 구체적인 사례를 통해 설명할 예정입니다. 특히, AI 도입과 고도화를 고려하는 기업에게 실질적인 로드맵과 솔루션을 제시하며, AI가 산업 현장의 문제를 어떻게 해결할 수 있는지 깊이 있게 다룹니다.
2024년 10월 24일 목요일, ATTENTION 2024에서 여러분과 함께 AI의 새로운 시대를 열어갈 수 있기를 기대합니다.
행사 개요
- 일시: 2024년 10월 24일(목) 오후 1시 ~ 5시 30분
- 장소: 서울 서초구 신반포로 176 JW 메리어트 호텔 서울 그랜드 볼룸(5F)
- 문의: marketing@makinarocks.ai
참여 방법
- 아래 배너를 클릭해 사전 신청을 해주세요.
- 본 행사는 무료로 진행되며 등록 인원이 많을 경우 사전에 마감될 수 있습니다.
- 행사 신청 시 정보 확인을 거쳐 ‘최종 등록 확정 메일’을 발송해 드릴 예정입니다.
초기 AI 시장에서는 하나의 AI 모델이 end-to-end로 해결책을 제시해 줄 수 있다고 기대했습니다. 디지털 환경에 적용되는 범용 AI는 1개의 모델로 수천만에 이르는 사용자를 서빙하고 있기도 하죠. 하지만 마키나락스가 산업 현장을 직접 부딪쳐 보니 예상과는 달랐습니다. 다루는 데이터와 수행하는 기능별로 AI 모델을 나눠 개발하고, 여러 AI 모델과 다양한 요소들이 서로 상호작용하면서 문제를 해결하는 Compound AI System으로 접근했을 때 문제를 제대로 이해하고 해결 방안을 체계화할 수 있었습니다.
🔗 산업의 어렵고 복잡한 문제를 해결하는 Compound AI System
지금 Compound AI System은 LLM을 중심으로 논의되고 있습니다. 기업들은 ChatGPT가 보여준 파급력을 비즈니스 임팩트로 연결할 방법을 고민했고, 도메인 특화 LLM을 활용해 AI 애플리케이션을 만들기 시작했는데요. 이때 Compound AI System이 작동합니다. LLM은 AI 엔지니어들에게 학습 없이 작동하는 AI 모델을 경험하게 해줬고 AI 엔지니어들은 이종의 데이터, 다양한 로직, Fine-tuning, RAG, Prompt Chain 등 다양한 접근을 통해 Compound AI System을 구성하고 단일 LLM 모델이 낼 수 있는 성능을 능가하는 결과들을 만들고 있습니다.
그렇다면 Compound AI System은 산업 현장의 문제를 어떻게 해결하고 있을까요? 또 그 안에서 LLM은 어떤 파급력을 가져올까요? 마키나락스가 실제 산업 현장에서 적용한 Compound AI System 사례들을 소개합니다.
산업 현장을 이해하는 Industrial LLM
산업 특화 LLM은 산업 현장의 다양한 업무를 LLM을 통해 효율화하고 혁신합니다.
산업 특화 LLM(Industrial LLM)은 한층 더 복합적인 Compound AI System을 필요로합니다. 마키나락스가 제공하는 Industrial LLM의 예를 들어볼게요. 산업 현장에서는 무수한 데이터가 발생하고 기록됩니다. ERP, MES, SCM 등 기존 시스템에서 생성된 로우 데이터와 수많은 센서와 설비에서 출력되는 뉴메릭 형태의 데이터도 존재합니다. 마키나락스는 독자 기술을 활용해 이 데이터들을 LLM이 학습할 수 있는 메타데이터로 변환합니다. 그리고 최적화, 예측분석, 예지보전 등 산업 현장의 문제를 해결하는 AI 모델을 결합한 형태의 에이전트를 구성합니다.
산업 현장의 문제를 해결하려면, 이를 위해 설계된 AI 모델을 활용할 수 있는 구조여야 합니다. Compound AI System은 다양한 AI 모델과 LLM을 결합해 종합적인 인사이트를 제공합니다. 수많은 Vector DB, API, AI 모델, AI 에이전트가 서로 상호작용하며 문제를 풀게 됩니다. Compound AI System 아래에서 AI 에이전트들은 서로 유기적으로 각 역할을 수행하면서 좋은 답변 혹은 사용자가 원하는 액션을 취할 수 있게 됩니다. 하나의 에이전트가 전체 문제를 해결하는 방식이 아니라 문제를 쪼개서 여러 에이전트가 각각의 문제를 담당해 큰 문제를 풀게 되는 거죠.
실제 산업 현장을 상상해 볼게요. 먼저 AI 모델이 장비의 이상을 사전에 탐지합니다. 작업자는 원인을 챗봇에 질문해요. 그러면 검색 에이전트가 적합한 사례와 데이터를 검색해 원인을 알려줍니다. 원인을 알았으니 원인을 분석해야겠죠. 작업자 요청으로 분석 에이전트가 ERP, MES 등 기업의 레거시 시스템 DB에 접근해서 데이터 및 정보를 이용해 원인 분석 결과를 제공합니다. 이를 바탕으로 작업자가 설비 제어를 요청하면 제어 에이전트가 문제를 해결할 수 있는 코드를 생성하고 장비를 제어합니다. 산업 현장에서 작동하는 Compound AI System은 여러 에이전트가 협력하여 문제의 원인을 분석하고, 해결 방법을 제시해 줄 모델을 호출하고 해결할 수 있도록 데이터를 불러오거나 판단을 수행해 주어진 문제를 해결합니다. 이를 통해 복잡한 작업이 자동화되고 효율성이 높아집니다.
끊임없이 확장하는 로봇팔 AI 시스템
Compound AI System은 AI를 적용할 범위가 넓어지고 요구되는 조건이 많아지면서 복잡해진 문제를 해결하는 방법으로 주목받고 있습니다. AI 도입 영역이 확장되면서 자연스럽게 Compound AI System을 구축한 사례를 소개합니다. 마키나락스는 2022년부터 현대자동차와 함께 로봇 예지 보전 시스템(RPMS, Robot Predictive Maintenance System)을 개발하고 있습니다. 협업 첫해에는 오코인코더 기반의 이상탐지 AI 모델을 개발해 2대의 로봇에 적용해 보는 작업을 진행했습니다. 이후 로봇 동작에 대한 파라미터를 연동해서 세밀한 분석을 진행하는 로봇 동작 품질 분석 AI 모델을 추가 개발했습니다.
AI 모델 성능이 입증되면서 이를 적용할 로봇이 순차적으로 200대 이상까지 늘어났습니다. 이때 다수 로봇에게 적용되는 수많은 AI 모델을 자동으로 관리해 줄 시스템이 필요했고, 🔗마키나락스의 AI 플랫폼 Runway에서 시스템을 구현했습니다. Runway의 MLOps에서 동작하는 시스템은 AI 모델의 학습과 추론 그리고 재학습 과정을 자동화했습니다. 추가로 AI가 적용될 로봇팔 브랜드도 더 다양해집니다. 로봇팔 브랜드마다 수집되는 데이터 양식이 다르다는 사실 알고 계셨나요? 기존 데이터 양식과 동일하게 데이터 전처리 표준화 모듈을 시스템에 추가해 일관된 데이터를 수집하게 됩니다. RPMS Compound AI System 아래에서는 이상탐지 모델과 로봇 동작 품질 분석 모델을 상호 보완적으로 작동하게 되는데요. 이를 통해 로봇이 고장 나기 전 최소 5일 전에 알려줘 고장에 미리 대비하고 다운타임을 획기적으로 줄여 생산성을 높입니다.
자, 여기서 끝이 아닙니다. RPMS Compound AI System에 LLM을 추가할 수도 있습니다. 매주 발행되는 보고서는 룰베이스로 생성 로직을 설정해 발행 되는데요. 시스템에 LLM을 추가하고 RAG 작업을 거쳐 챗봇 형태로 구현할 수 있습니다. 기존에는 전체 보고서를 보고 파악해야 했던 내용을 이제는 챗봇에 궁금한 점을 검색해 빠르게 찾을 수 있게 되는 거죠. 이 역시 마키나락스의 Runway 위에서 운영할 수 있는데요. 🔗Runway의 LLMOps는 다수의 LLM 모델을 쉽고 안정적으로 배포하고 운영할 수 있도록 LLM 모델 특화 런타임,서빙 인프라 자원 최적화를 지원합니다.
Compound AI System은 확장되고 있는 AI 기술의 핵심 역할을 하고 있습니다. 특히 산업 특화 LLM을 결합하면 시스템의 유연성과 실시간으로 다양한 데이터를 분석해 더욱 효율적으로 문제를 해결할 수 있는 역량을 갖추됩니다. 마키나락스는 현재 제품 디자인 생성, PLC 코드 변환 자동화 등 Compound AI System으로 풀고 있는 문제들이 더 많지만 모두 공개할 수 없어 너무 아쉬운 마음입니다. 하지만 다른 기업의 AI 성공 사례보다 중요한 건 우리 기업이 풀려고 하는 문제와 이를 실현해 주는 맞춤형 Compound AI System 구성과 운영 체계입니다. 어떻게 해결할 수 있을지 궁금하다면 아래 배너를 통해 문의를 남겨주세요. 마키나락스가 함께 고민하겠습니다.
산업 전반에 AI 도입이 가속화되면서 Compound AI System이 주목받고 있습니다. Compound AI System은 여러 개의 AI 모델, 리트리버, 데이터베이스, 외부 도구 등 다양한 구성 요소를 통합해 AI 작업을 효과적으로 처리하는 시스템을 말하는데요. 버클리 인공지능 연구소(BAIR)에서 발표한 논문 '모델에서 복합 AI 시스템으로의 전환'에서 제안된 접근법입니다.
사실 마키나락스에게 Compound AI System은 낯선 개념은 아닙니다. Real World에서 AI를 통해 복잡한 문제를 해결하고, 다양한 데이터와 시스템을 통합해 최적의 성과를 도출하는 데 있어 필수적인 접근 방식이기 때문입니다. 산업 현장은 끊임없이 변화하고 있습니다. 더불어 해결해야 하는 문제들도 복잡해지면서 갈수록 고도화된 Compound AI System이 요구되고 있습니다. 마키나락스가 산업 현장에 AI를 적용하면서 경험하고 바라본 Compound AI System을 변화의 흐름 관점에서 살펴보겠습니다.
Compound AI System이 필요한 이유
산업 현장에서 AI를 막 도입하기 시작했을 때만 해도 단일 AI 모델이 혁신 솔루션을 제공할 것이라는 믿음이 있었습니다. 마키나락스도 창업 초기 처음 프로젝트를 시작할 때는 단순히 AI 모델만 개발해 전달하는 경우도 있었는데요. 하지만 AI 모델만으로는 산업 현장의 문제를 명확하게 해결할 수 없다는 사실을 직면하게 되었습니다.
AI 모델이 잘 동작한다고 해도 훈련되지 않은 데이터에 적용했을 때 예기치 않은 결과를 초래할 수 있습니다. 예를 들어 공조 장치의 온도를 10도에서 30도 사이로 조절해야 하지만, AI 모델이 갑자기 100도로 설정하라는 결과를 내놓는 거죠. 이런 결과는 데이터와의 첫 만남을 어려워하는 머신러닝 뉴럴 네트워크 모델의 본질적인 한계라고 볼 수 있습니다.
🔗 Real-World AI 실현이 어려운 이유
Compound AI System은 여러 개의 AI 모델, 리트리버, 데이터베이스, 외부 도구 등 다양한 구성 요소를 통합해 AI 작업을 효과적으로 처리하는 시스템입니다.
한계를 뛰어넘을 때, 그곳은 또 다른 출발점이 됩니다. 덕분에 마키나락스는 Compound AI System의 필요성과 중요성을 일찌감치 인식하게 되었습니다. Compound AI System을 기반으로 문제를 바라보기 시작한 거죠. 결과물을 컨트롤하기 힘든 단일 AI 모델과 달리 Compound AI System에서는 포스트 프로세싱, 결과물 필터링 등 엔지니어의 시각에 따라 여러 가지 컨트롤 요소들을 추가할 수 있습니다. 이를 통해 AI 모델의 성능뿐만 아니라 실질적인 문제 해결이 가능한 구성을 중심으로 시스템을 설계하고 최적화할 수 있습니다. 이는 마키나락스가 풀고 있는 Real World의 문제가 어렵기 때문이기도 합니다.
Real-World AI는 원래 어렵고 복잡한 문제를 해결합니다
마키나락스는 산업 특화 AI로 복잡하고 예측할 수 없는 산업 현장의 새로운 지평을 엽니다.
Real-World AI는 산업 현장의 문제를 데이터 기반으로 정의하고 해결하며 의사 결정을 가능하게 하는 기술입니다. 사람이 생각하지 못하는 무수한 방식을 고려해 사람이 따라갈 수 없는 속도로 해결해요. 사람이 할 수 있는 영역을 대체하는 기술이 아닌 사람이 못하는 영역을 사람이 생각하지 못하는 방식으로 해내고 있습니다.
🔗 새로운 지평을 열다, Real-World AI
산업 현장은 이미 완성도 높은 자동화 프로세스가 구축되어 있습니다. 이런 환경에서 AI의 역할은 보다 어려운 문제를 해결하는 데 집중되어 있습니다. 마키나락스가 실제 산업 현장에서 해결한 문제들을 살펴볼게요. 사람이 하면 6주가 걸리는 백만 가지의 변수를 빠르게 연산해 3일 만에 최적 제어 로직을 도출하고, 장비 이상 발생률을 0.5%에서 0.1%로 줄여 수율을 높입니다. 작업자별로 편차가 있는 에너지 제어의 편차를 줄여 에너지 사용량을 3% 줄이고, 수천 개의 부품 조립 순서를 가장 짧은 거리와 빠른 시간 내로 완성할 방법을 도출하며, 대형 마트 신선식품 가격을 최적화해 점포별 이익을 3% 증가한 사례 등이 있습니다.
AI의 진가는 복잡한 문제를 해결할 때 발휘됩니다. AI가 수많은 변수와 방대한 데이터를 동시에 처리해 사람이 접근하기 어려운 문제를 해결할 수 있기 때문입니다. 또한, AI는 다양한 시나리오를 시뮬레이션해 최적의 결정을 내리고, 반복적이고 복잡한 작업을 자동화함으로써 문제 해결 속도와 정확성을 높입니다. 복잡한 문제일수록 더 강력한 해결 능력을 보여주는 거죠.
더 어려워지는 문제를 해결하는 Compound AI System
AI로 해결하려는 문제가 점점 더 복잡하고 어려워지고 있습니다. Compound AI System이 주목받고 있는 이유이기도 합니다. 왜 복잡해지고 있을까요? AI 기술이 발전하고 레퍼런스 삼을 수 있는 성공 사례가 많아지면서 해결할 수 있는 문제가 넓고 깊어졌습니다. 가능성을 인정받게 되면서 AI를 적용하는 공정과 장비 그리고 시스템도 늘어나고 있습니다. 동시에 해결하고 싶은 문제도 구체화되면서 더 다양한 데이터를 기반으로 여러 AI 모델을 다룰 수 있는 Compound AI System의 필요성이 더욱 커지고 있습니다.
연구실을 넘어 산업 현장에 AI가 적용되는 단계가 다가올수록 변수가 늘어나고 요구 사항도 구체화됩니다. 처리해야 할 데이터의 양과 다양성도 늘어나고요. 앞서 마키나락스 창업 초기에는 단일 AI 모델만 전달한 적도 있다고 말씀드렸는데요. 산업 현장의 AI에 대한 이해도가 높아지면서 AI 모델과 더불어 시스템이나 애플리케이션, 데이터 시각화가 포함된 대시보드까지 요구되는 경우가 많아지고 있습니다.
산업 현장은 다양한 변수가 얽힌 매우 복잡한 환경입니다. 여러 공정이 동시에 진행되고, 다양한 장비와 시스템이 상호작용하고 있는데요. 따라서 문제에 대한 정의는 물론 해결하는 방법도 세분화되고 정교해지면서 어렵고 복잡해집니다. 이러한 상황에서는 다양한 데이터와 다수의 AI 모델 그리고 여러 시스템이 유기적으로 상호작용하며 작동하는 Compound AI System이 핵심적인 역할을 하게 됩니다. 그리고 AI 에이전트는 이러한 요소들을 통합하여 복잡한 로직을 제어하며 실시간으로 최적의 결정을 내리고 행동을 자동으로 수행합니다.
이 포스팅을 읽고 있는 마키나락스 구성원들은 Compound AI System이 생소하지 않을 것입니다. 우리는 그동안 Real-World AI를 실현하기 위해 산업 현장의 문제를 빠르고 효율적으로 해결하기 위한 구성을 고민하고 시스템화하고 있었기 때문인데요. 이제 여기에 Compound AI System이라는 이름을 붙이고 산업 AI의 표준을 만들어 갈 것입니다. 지금 마키나락스가 진행하고 있는 🔗Compound AI System 사례들은 링크를 통해 확인할 수 있어요.
우리가 그리는 Real-World AI. 누구나 도전할 수 있지만 아무나 실현하지는 못할 것입니다. 글로벌 제조 기업의 AI 관련 목표 달성 성공률은 16% 수준에 불과합니다. 그만큼 Real World에 AI를 적용하고 비즈니스 임팩트로 연결하기까지는 수많은 어려움을 뛰어넘어야 합니다. 구체적으로 어떤 난관들이 있을까요? Real-World AI가 어려운 이유를 정리했습니다.
Real World는 복잡하다: 10의 170제곱의 경우의 수를 가진 바둑보다 훨씬 더!
바둑에서 나올 수 있는 모든 경우의 수는 10의 170제곱이라고 합니다. 알파고는 바둑판이라는 통제된 환경만을 고려하고, 또 세계적인 바둑 기사들의 공개된 대국을 학습해, 무한히 대국을 반복하면서 성능을 고도화한 AI입니다. 알파고의 성능은 바둑판이라는 제한된 공간에서 1명의 상대와 진행하는 대국 상황에서 보장될 수 있습니다. 하지만 Real World에는 더 무수한 변수가 존재하고, 모든 고품질의 데이터에 접근하는 일 또한 역시 불가능합니다.
제조 현장을 떠올려 보세요. 너무나도 복잡합니다. 온도, 습도, 소음 등 여러 환경 변수가 존재합니다. 이에 따라 설비와 장비의 부품이 마모되는 정도가 달라 교체 주기도 달라질 수 있고, 가장 효율적으로 제품을 생산하기 위한 스케줄링도 고려해야 합니다. 여기에 작업자 숙련도에 따른 결과물의 차이, 변동에 따른 구매 시점 예측 등 간접적인 요인도 존재합니다. 알파고가 제조 현장에서는 인간의 능력을 넘는 AI가 될 수 없는 이유입니다. 알파고가 아닌 다른 AI라면 얘기가 달라집니다. 단순한 바둑판과 달리 복잡한 산업 현장을 그대로 모사한 환경에서 다양한 변수와 데이터를 학습한 AI라면 어떨까요?
🔗 Real-World AI: 산업 현장을 실시간 연결하는 AI Digital Twin
Real World는 통제되지 않는다: AI, 새로운 데이터와의 첫 만남은 어려워!
자율주행은 Real World AI의 대표적인 기술입니다. 십여 년간 수십조의 투자가 이루어진 분야인데요. 하지만 level 5에 해당하는 완전 자동화, 즉 차량이 모든 조건에서 모든 주행 작업을 수행하고 운전자의 개입이 전혀 필요하지 않은 기술은 여전히 상용화에 어려움이 있습니다. AI가 새로운 데이터와의 첫 만남을 어려워하기 때문입니다. 학습하지 않은 예상치 못한 상황, 즉 처음 보는 데이터를 만났을 때 곧바로 성능을 내지 못하는 것은 AI가 여전히 극복해야 할 한계로 꼽힙니다.
연구소에서 성능이 뛰어난 AI 모델을 만들어도 생산 환경에서 새로운 데이터를 만나면 모델의 성능은 떨어지기 마련입니다. AI의 높은 성능을 유지하기 위해서는 초기 학습 이후에도 지속적으로 새로운 데이터를 업데이트하고 성능을 유지하며 개선해 가는 과정인 ‘지속적 학습(CT, continuous training)’을 수행해야 합니다. 또 이 과정을 매번 사람이 수행할 수는 없기에 지속적 학습을 자동화할 수 있는 프로세스가 필요합니다.
🔗 Real-World AI: 자동화된 운영 환경을 지원하는 AI 플랫폼 Runway
Real World 데이터는 공개되지 않는다: ChatGPT VS 20년 차 숙련공, 울산 공장을 누가 더 잘 알까?
ChatGPT VS 20년 차 숙련공, 울산 공장을 누가 더 잘 알까요?
산업 현장에서 ChatGPT는 스탠포드 4학년 학생에 비유할 수 있습니다. 이 똑똑한 학생이 울산 공장에서 일을 한다고 가정해 봅시다. 바로 일을 잘할 수 있을까요? 아마 무엇을 해야 할지 갈피를 잡는 것부터 어려울 것입니다. 현장에서 사용되는 장비와 설비의 이름, 이를 최적으로 제어할 수 있는 다양한 변수와 조합, 담당자가 누군지 파악하고 도움을 요청하기까지 꽤 오랜 시간이 걸릴 겁니다. 하지만 울산 공장에서 20년을 일한 숙련공은 스탠포드 학생이 좌충우돌하며 몇 시간에 걸쳐 하는 일을 단 몇 분 만에 해낼 수 있을 것입니다. 오랜 시간 쌓아온 현장의 노하우와 도메인 전문 지식을 기반으로 전화 한 통, 경험의 한 조각을 꺼내 빠르게 문제를 해결할 수 있는 것이죠.
ChatGPT가 인간 수준의 문장, 그림, 코드를 생성할 수 있더라도 산업의 데이터를 학습하지 못했다면 이를 산업 현장에서 활용하기는 불가능합니다. 더불어 산업 데이터는 손쉽게 구할 수 없으며, 기업에서도 외부에 공개하지 않기에 ChatGPT는 산업 현장에서 우리가 기대하는 만큼의 성능을 낼 수 없습니다. 그렇기에 산업 데이터 경험이 중요합니다. 산업의 복잡성과 고유한 요구사항, 다양한 장비와 설비에서 수집하는 데이터에 대한 이해가 높을수록 다양한 각도에서 LLM을 발전시킬 수 있습니다.
🔗 Real-World AI: LLM이 바꿀 산업 현장의 NEXT는?
Real World는 100%가 필요하다: 참고가 아닌 문제를 해결하는 AI
디지털 세계에서 범용 AI는 글, 이미지, 동영상과 같은 콘텐츠를 생성하거나 개인화된 추천 시스템을 제공하며 혁신을 보여주고 있습니다. 사용자가 기대한 결과물과 100% 일치하지 않더라도 일부만 참고하고 응용할 수 있기 때문에 고도의 정확성이 요구되지 않습니다. 그러나 Real-World AI는 훨씬 전문적이면서 복잡하고 어려운 문제를 해결하기 때문에 100%에 가까운 정확도가 필요합니다.
제품 품질을 검수하는 AI가 결함을 감지하지 못하면 불량 제품이 생산되어 고객 불만과 대규모 리콜 사태로 이어져 기업의 신뢰도와 수익에 큰 영향을 미치며, 생산 라인의 오류로 대규모 재작업이 필요할 수 있어 막대한 손실을 초래합니다. Real World에서는 환경 변화에 즉각적으로 대응해야 합니다. AI가 실시간으로 데이터를 분석해 기계의 온도나 압력을 조절하지 않으면, 공정이 중단되거나 제품 퀄리티에 영향을 줄 수 있기 때문에 높은 정확도가 필수적입니다.
🔗 Real-World AI: 산업 현장의 문제를 해결하는 AI Use Case
Real World는 복잡하고, 통제할 수 없고, 예측할 수 없으며, 데이터를 쉽게 확보할 수도 없습니다. 요구되는 정확도도 높고요. 그럼에도 마키나락스는 Real-World AI를 구현하기 위해 Compound AI System을 기반으로 산업 현장의 복잡한 문제들을 해결하고 있습니다. 실제 마키나락스는 글로벌 시장의 AI 도입 성공률 대비 4배 이상의 성공률을 실현하고 있습니다. '우리도 AI로 뭐 좀 해봐야 하나?' 고민만 하고 계신가요? 아래 배너를 클릭해 현재 고민을 나눠주세요. 마키나락스가 함께 Real-World AI를 구현할 방법을 찾겠습니다.
AI가 인간을 이길 수 있을까요? 누구도 장담하지 못했습니다. 알파고가 이세돌 9단을 이긴 2016년 전까지는요. 알파고는 딥러닝과 강화학습 알고리즘을 활용해 개발한 AI 바둑 프로그램입니다. 2016년 3월, 한국의 프로 바둑 기사 이세돌과의 대국에서 4승 1패로 승리했고 자신의 강력한 AI 능력을 세상에 알렸습니다.
바둑보다 복잡한 Real World
바둑에서 나올 수 있는 모든 경우의 수는 10의 170제곱이라고 합니다. 이러한 연산이 가능한 알파고는 바둑알 한 알이 놓이는 순간순간의 바둑판을 학습하고, 대국을 수행하며 더욱 좋은 성능을 내게 됩니다. 인간이 10의 170제곱이라는 우주 전체의 원자 수보다 많은 연산을 처리할 수 없기에 어찌 보면 알파고가 인간을 이긴 것은 당연한 결과일지도 모릅니다.
알파고는 바둑판이라는 통제된 환경만을 고려하고, 또 세계적인 바둑 기사들의 공개된 대국을 학습해, 무한히 대국을 반복하면서 성능을 고도화한 AI입니다. 알파고의 성능은 바둑판이라는 제한된 공간에서 1명의 상대와 진행하는 대국 상황에서 보장될 수 있습니다. 하지만 Real World에는 더 무수한 변수가 존재하고, 모든 고품질의 데이터에 접근하는 일 또한 역시 불가능합니다.
제조 현장을 떠올려 보세요. 너무나도 복잡합니다. 온도, 습도, 소음 등 여러 환경 변수가 존재합니다. 이에 따라 설비와 장비의 부품이 마모되는 정도가 달라 교체 주기도 달라질 수 있고, 가장 효율적으로 제품을 생산하기 위한 스케줄링도 고려해야 합니다. 여기에 작업자 숙련도에 따른 결과물의 차이, 변동에 따른 구매 시점 예측 등 간접적인 요인도 존재합니다. 알파고가 제조 현장에서는 인간의 능력을 넘는 AI가 될 수 없는 이유입니다.
복잡한 Real World를 모사하는 AI 기반 Digital Twin
알파고가 아닌 다른 AI라면 얘기가 달라집니다. 단순한 바둑판과 달리 복잡한 산업 현장을 그대로 모사한 환경에서 다양한 변수와 데이터를 학습한 AI라면 어떨까요? 산업의 영원한 숙제는 효율성과 생산성의 극대화입니다. 현재 잘 운영되고 있는 공정일지라도 끊임없이 더 나은 생산성을 목표로 다양한 시도를 하는 이유입니다. 하지만 현재 원활하게 운영되고 있는 공정에 바로 AI를 적용하기에는 리스크가 너무 많습니다.
산업 현장은 복잡한 시스템으로 구성되어 있고 다양한 변수들이 상호작용하고 있습니다. AI 모델이 실제 공정 환경에서 충분히 검증되지 않으면 예상치 못한 상황에서 오류가 발생해 공정 중단이나 품질 저하로 이어질 수 있습니다. 그렇기에 AI와 같은 새로운 기술을 도입할 때 신중한 접근이 필요합니다. AI의 성능을 실제 산업 현장에서 실험할 수는 없으니까요.
🔗 What is Real-World AI
마키나락스는 독자적인 기술력으로 자체 개발한 Multi-Step 시뮬레이션 Dynamics 모델을 통해 Real World의 공정, 설비, 제품, 상태 등 산업 현장을 AI 기반으로 모사한 디지털 트윈을 구현합니다. 우리가 말하는 디지털 트윈 개념은 3D에 국한되지 않습니다. Dynamics 모델을 바탕으로 AI 디지털 트윈을 빠르게 만들며 예측, 최적화, 예지보전과 같은 AI 모델을 효율적으로 검증하고 최적화합니다. AI를 산업 현장에 적용하기 위해 AI로 시뮬레이션 환경인 디지털 트윈을 구현하는 거죠.
Digital Twin에서 구현하는 최적화, 예측, 예지보전
마키나락스가 구현하는 AI 기반 디지털 트윈
산업 현장에서 디지털 트윈은 AI와 결합해 생산성을 높이고 운영 효율성을 극대화하며 리스크를 최소화합니다. 장비나 설비에서도 자체적인 시뮬레이터를 제공하지만, 공정이 운영되면서 바뀌는 상태 값을 실시간으로 반영해 특정 결과를 이끌어 내기에는 한계가 있습니다. 마키나락스가 제공하는 디지털 트윈은 현재 공정과 설비 상태의 실시간 모니터링은 물론 외부 조건과 작업자의 운전 패턴을 파악해 현실과 가장 유사한 시뮬레이션을 구현합니다.
실제 공정을 정밀하게 모사한 디지털 트윈 환경에서 다음 상태(Single Step)의 예측이 아닌 중장기(Multi-Step) 상태 변화를 예측합니다. 산업 현장 데이터로 대표되는 관측 변수, 내외부 조건 변수, 제어 변수를 반영하여 미래를 예측하고 다양한 제어 시나리오를 테스트할 수 있습니다. 또 다양한 AI 모델과 결합해 중대 고장 방지, 최적 제어, 생산 스케쥴 최적화 등 특수한 산업 내 문제를 해결합니다.
산업 현장에서 작동하는 Digital Twin
산업 현장에서는 디지털 트윈이 어떻게 적용되고 있을까요? 🔗전기자동차 공조 시스템의 에너지 효율화 사례를 살펴보겠습니다. 현 상태와 목표 온도, 목표 에너지 효율을 탐색기에 제공하면 강화 학습 에이전트는 목표 온도 달성을 위한 액추에이터의 제어 값을 산출하고 이를 AI 시뮬레이터인 디지털 트윈에 인풋해 예상 결과 온도와 에너지 효율을 예측하게 됩니다. 그리고 이를 목표와 비교하여 달성 정도에 따라 보상을 계산하고 탐색기에 피드백을 제공하는 과정을 반복하며 강화학습 에이전트가 궁극적으로 목표 온도와 목표 에너지 효율을 달성할 수 있는 제어 값을 찾도록 유도합니다.
마키나락스는 이와 같은 방법론이 전기자동차 공조 시스템 이외에도 🔗산업용 머신 파라미터 튜닝, 🔗철강 퍼니스 장비 최적 온도 제어, 폐기물 소각로 운전 자동화 등 다양한 도메인에 실제 적용이 가능한 방법론임을 확인할 수 있었습니다. 더불어 마키나락스가 산업 현장에 배포한 5천 개 이상의 모델들은 이러한 AI 기반 디지털 트윈에서 검증하고 적용이 되고 있으며, 현실을 반영해 높은 정확도로 인공지능 기반 인사이트를 제공하고 있습니다. 복잡하고 예측할 수 없는 Real World에서 실질적인 비즈니스 임팩트를 낼 AI 구현 방법을 고민하고 계신가요? 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.
마키나락스는 창업 초기부터 제조 현장의 문제를 AI로 해결해 왔습니다. 지금은 에너지, 유통, 공공, 국방 등으로 영역을 넓혔고, AI 플랫폼 런웨이 출시와 산업 특화 LLM과 같은 새로운 AI를 시장에 선보이며 산업을 지능화하고 있습니다. 그리고 여기 끊임없이 도전하며 산업 AI의 새로운 영역을 넓히는 동시에 혁신하는 사람들이 있습니다. 마키나락스의 AI Project part4팀입니다.
끊임없이 새로운 도전을 이어가고 있는 part4는 무슨 일을 하는 팀인가요?
part4 팀리더 병선님
산업 AI 분야에서 레퍼런스가 거의 없는 성격의 문제들을 주로 해결하고 있습니다. 대표적으로 산업 현장 데이터를 바탕으로 산업 특화 LLM(Large Language Models)을 구축해 자연어를 기반으로 실제 공정과 장비를 제어하고 스스로 행동할 수 있는 AI를 개발합니다. 또 다양한 예측 문제를 데이터 관점에서 접근하여 해결하고 있습니다. 조성비에 따른 물성, 최적 가격, 최적 생산량 등 산업현장에서 필요로 하는 값들을 예측하는 AI를 만듭니다. 화학 분야에서도 제품의 물성을 예측하는 AI 모델을 개발했고요. 프로젝트를 수행하기 위해 필요한 다양한 MLOps 기능들은 Runway를 활용하고 있습니다. Runway를 이용해 데이터에 따른 재학습, 모델 및 데이터의 형상 관리, 실험 관리, 예측 결과의 지속적인 추론 서비스 제공 등을 수행하고 있습니다. 이를 통해 제품 개발 고도화에도 참여하고 있습니다.
어떤 분들이 함께 협업하고 있는지 궁금해요.
다양한 연차와 역량을 가진 7명의 AI 엔지니어가 함께 일하고 있습니다. 새로운 시도와 도전을 좋아하는 사람들이 모였어요. 다들 호기심도 많고요. 새롭게 시작하는 일에 주저함이 없습니다. 그래서 part4는 데이터 구축부터 배포까지 경험할 수 있는 풀스택 엔지니어를 지향하고 있습니다. 여러 가지 관심이 많아서 처음부터 끝까지 다 해봐야 직성이 풀리는 성향이 반영된 것 같아요. 어떤 AI 엔지니어들이 모였는지 서로 생각하는 팀원들의 역할과 장점을 정리해 봤어요.
part4 구성원 영재님, 종하님, 석기님
구성원들의 리소스를 고려해 R&R을 배분하고 코드 레벨까지 섬세한 피드백을 해주시는 리더 병선님, 명확한 커뮤니케이션과 깔끔하고 가독성 높은 코드를 구현하시는 영재님, 새로운 것에 대한 관심만큼 강한 책임감을 바탕으로 큰 흐름 속에서 방향을 잡아주시는 드민이 아빠 종하님, 인프라 환경과 소프트웨어와 관련한 풍부한 지식으로 업무 효율성을 올려주는 석기님.
🔗AI 회사에서 LLM을 업무에 활용하는 방법(feat.드민이)
part4 구성원 유진님, 환수님, 대현님
유연한 문제 대응력과 빠른 흡수력을 보여주시는 마키나락스 커피 소모임 막희네다방 주인장 유진님, 좋은 아이디어를 내고 방법을 구체화해 빠르게 실현하시는 환수님, 가장 최근 합류해 원활한 커뮤니케이션을 바탕으로 새로운 에너지를 불어넣어 주신 대현님 이렇게 7명으로 구성된 팀입니다. 그리고 함께 새로운 도전을 이어 나갈 LLM 분야의 전문가를 기다리고 있어요.
🔗 [채용 공고] 마키나락스 LLM 머신러닝 엔지니어
팀 문화로 넘어가 볼게요, 코드 리뷰에 철학이 있다고 들었어요.
코드를 통해 생각을 교환합니다. 코드 리뷰는 AI 엔지니어 업무의 기본이라고 생각해요. 코드 리뷰를 통해 누구나 쉽게 읽고 이해할 수 있는 코드를 만들려고 노력하고 있습니다. 그래서 코드 리뷰는 조금 좀 더 깐깐하게 하려고 하는 편이고요. 생각의 교환은 글이나 토론으로 할 수 있지만 코드로도 가능하다고 생각해요. 그래서 part4는 가급적이면 서로의 코드를 보고 서로의 생각을 이해하고 교류하고 있어요. “이 코드는 이렇게 바꾸면 더 효율적일 것 같아요”라며 제안을 해주기도 하고, “이 코드는 왜 이렇게 짜셨나요?”와 같이 단순한 궁금증을 물어보기도 해요.(시비 아님) 그러다 보니 자연스럽게 대화도 많이 하게 되는 것 같아요. 정기적인 티타임뿐만 아니라 슬랙으로도 대화를 많이 하고, 특별한 주제가 없더라도 오고가며 대화를 많이 하려고 해요.
코드 말고 자연어(?)로는 어떤 방식으로 커뮤니케이션하세요?
자연어로 소통하고 있는 part4 구성원들.
저희팀만이 아니라 마키나락스 전반의 커뮤니케이션 방식이라고 생각하는데요. 마키나락스 구성원 누구나 자신의 의견을 자유롭게 표현합니다. 본인의 의견을 이야기하는 데 있어서 누군가가 방해한다거나 막는 경우를 못 본 것 같아요. 어떠한 이야기라도 들을 자세가 되어있고 상대방에 대한 존중을 바탕으로 커뮤니케이션합니다. 불가능해 보이는 프로젝트도 어떻게든 답을 찾아가는 과정이 인상 깊었습니다. 처음에 생각한 결과는 아니더라도 많은 고민과 노력을 통해 의미 있고 유효한 답을 찾는 과정을 보고 배울 점이 많다고 생각했어요. 함께 토론하는 문화가 있어서 다양한 생각들이 나오는 것 같습니다. 개인이 풀기 어려운 문제를 함께 해결하는 집단 지성의 힘을 발휘하는 경우를 많이 본 것 같습니다.
마키나락스 AI 엔지니어로 일한다는 것, 어떤 장점과 보람이 있을까요?
실제 산업 현장에서 쓰이는 AI를 만들고 다른 AI 엔지니어들이 해보지 못하는 경험을 할 수 있어요. 저희는 산업 현장이 필요로 하는 것들에 집중해서 풀어야 하는 문제들을 해결한다고 생각해요. 그래서 실제 산업 현장에 맞춰서 문제를 셋팅하고 풀어냅니다. 그 경험들이 쌓여서 다른 문제를 해결하는 데 도움이 되고 노하우가 쌓여가는 거죠. 특히 카테고리를 넓힌다는 관점에서 보면, 저희가 만든 레퍼런스가 다른 프로젝트로 확장될 때 가장 큰 보람을 느낍니다.
장점이 명확한 만큼 수반되는 힘든점도 있을 것 같아요.
레퍼런스가 부족해요. 거의 없다고 볼 수 있습니다. 그렇기에 내부에서 고민을 치열하게 해야 하고 그 답을 찾는 과정이 고통스러울 때도 있어요. 하지만 결국 해냈을 때 얻는 가치가 더 큰 것 같습니다. 저희 팀원들이 그런 고단한 과정들을 즐기는 사람들이기도 하고요. 또 마키나락스는 휴가가 무제한입니다. 재택도 자유로워서 몰입할 때는 몰입하고, 쉴 때는 쉼에 집중할 수 있어요.
🔗 휴가가 무제한? 마키나락스 근무환경&복리후생
앞으로 팀에 합류할 AI 엔지니어는 어떤 분이길 바라세요?
함께 즐겁게 일할 수 있는 분이면 좋겠어요. 단순히 연구실에서 AI 성능을 높이기 위해서 일하는 게 아니라, 실제 산업 현장에서 쓰일 AI를 만들면서 느끼는 보람과 가치를 함께 하고 싶은 분이라면 누구나 환영합니다. 또 머신러닝 분야는 변화가 빠른 분야로 항상 새로운 상황에 맞닥뜨리는 것 같습니다. 이를 두려워하지 않고 적극적으로 맞서서 함께 발전하는 분을 기다리고 있습니다.
🔗 [채용 공고] 마키나락스 LLM 머신러닝 엔지니어
part4의 계획과 목표를 묻고 인터뷰 마무리할게요.
이제는 MLOps를 넘어서 LLMOps가 필요한 시기가 되었다고 생각합니다. LLMOps에 필요한 기능들을 시험하고 나아가야 할 방향을 제시할 계획입니다. 또 수행한 작업에 대한 노하우가 팀과 회사의 자산이 될 수 있도록 체계화하는 작업도 계속해서 진행할 예정이에요. 산업 현장마다 전부 다른 데이터와 문제들을 해결해야 하지만 그 안에서 자산화할 수 있는 부분들이 있거든요. 대표적인 예로 여러 작업을 수행하면서 실험 관리를 체계화했는데요. 자세한 내용은 🔗체계적인 실험 관리 #1. AI 모델의 성능을 높이는 첫걸음 포스팅에서 확인할 수 있습니다.
지금까지 Part4 인터뷰였습니다. 콜럼버스가 오로지 바람과 파도에 의지해 신대륙을 발견한 것처럼 part4도 아무도 가보지 않은 길을 항해하고 있습니다. 그간 쌓인 노하우와 함께 할 동료가 있기 때문에 거침없으면서도 유연한 혁신을 이어 나가고 있어요. part4와 한 배를 타고 함께 항해를 이어갈 팀원을 모집하고 있습니다. 산업을 제대로 이해하고 실제로 쓰이는 AI를 만들고 싶다면, 지금 바로 🔗채용 공고를 확인해 보세요. 함께 새로운 길을 개척해 봐요!
What is Real-World AI?
우리는 AI가 더 나은 세상을 만든다고 믿습니다. AI가 만들 혁신은 오피스 생산성과 디지털 환경에만 한정되지 않을 것이라고 확신합니다. 단언컨대, AI는 우리가 숨을 쉬고, 움직이고, 만질 수 있는 Real World에서 전례 없는 혁신을 만들어 낼 것입니다.
광활한 Real World에서 우리는 AI로 산업 현장을 지능화합니다. 무수한 설비에서 나오는 무한한 산업의 데이터를 바탕으로 난제를 해결하고 실질적인 비즈니스 임팩트로 연결합니다. 산업 현장은 끊임없이 변화하고 있으며 도전 과제들도 어려워지고 있습니다. 우리는 산업 특화 AI로 복잡하고 예측할 수 없는 산업 현장의 새로운 지평을 엽니다.
우리가 Real-World AI에 집중하는 이유
Real-World AI가 펼쳐낼 새로운 지평에는 무엇이 기다리고 있을까요? AI가 실현할 가치 끝에는 사람이 있습니다. AI도 결국 사람을 위한 기술입니다. AI는 산업 현장에서 기존에 겪고 있던 실제 문제를 빠르고 정확하게 해결할 뿐만 아니라 사람이 생각하지 못했던 새로운 방법을 모색하고 제안합니다. Real-World AI는 사람과 기술이 연결되어 더 나은 세상을 만들어가는 데 핵심적인 역할을 합니다. 그래서 우리는 산업 현장의 지능화를 통해 사람이 본연의 일에만 집중할 수 있는 미래를 만들어 가고 있습니다. 이유가 너무 추상적인가요?
Real-World AI: 더 큰 시장, 더 큰 가치
ChatGPT와 같은 범용 AI는 디지털 환경에서 번역, 문서 작성, 코딩 등을 수행하며 오피스 생산성을 높이고 있습니다. 패션 이커머스 플랫폼과 콘텐츠 플랫폼에서는 개인화된 추천 시스템을 제공하기도 하고요. 이제 AI가 없는 디지털 세상에서 살기란 불가능에 가깝습니다. 경제적인 측면은 어떨까요? 세계은행은 디지털 경제가 세계 국내총생산(GDP)의 15% 이상 기여하고 있다고 발표했습니다. 디지털 경제의 성장 속도는 빠르지만, 여전히 Real World가 차지하는 절대적인 경제 규모는 전체의 대부분을 차지하고 있으며 AI는 규모가 거대한 시장에 적용되었을 때 그 효용성과 파급력도 더욱 크다고 예상합니다. 자동차, 로봇, 반도체, 배터리, 에너지, 물류 등 AI를 적용할 수 있는 산업도 더 많고 다양합니다.
Real World에 속한 산업에 AI의 가치가 실현되었을 때 불러올 파급효과 또한 큽니다. 예를 들어 제조업에 AI를 적용해 수요 예측이 정확해지면, 물류 산업에서는 재고 관리와 배송 계획을 최적화할 수 있습니다. 이를 통해 배송 시간을 단축하고 물류 비용을 절감합니다. 소매 업체 또한 AI가 예측한 제조 수요 데이터를 기반으로 재고를 최적화하고 판매 촉진 활동을 계획할 수 있습니다. 제조업에서 AI 적용 사례가 늘어나면 IT 기업들은 이를 지원하기 위한 새로운 솔루션과 서비스를 개발하겠죠. 이는 곧 IT 서비스 산업에서 더 많은 연구개발 투자를 유도하고, 신기술 개발 촉진으로 이어집니다.
Real-World AI: 더 큰 잠재력, 더 큰 임팩트
빙산의 일각. Real-World AI가 가진 잠재력과 임팩트를 함축하고 있는 문장입니다. AI와 데이터는 상호 의존적인 관계입니다. AI를 시작하기 위해서는 데이터가 필요하고 데이터는 AI의 성능을 결정짓는 핵심 요소입니다. Digital World에서는 대량의 온라인 데이터를 쉽게 수집하고 분석할 수 있습니다. 물리적 인프라와 관련된 비용도 비교적 적고요. Real World는 어떤가요?
지금 주위를 둘러보세요. 우리는 일상에서 수많은 데이터를 생성하고 있습니다. 가전제품, 차량, 심지어 우리가 걷는 길과 사용하는 물건들까지 모든 것이 데이터를 만들어 내고 있습니다. 집에서 사용하는 가전제품의 사용 패턴, 우리가 걷는 거리의 환경 변화, 도로 위의 차량 흐름 등은 모두 AI와 만나면 더 나은 세상을 만들 데이터입니다. Real World에서 발생하는 무한한 데이터를 기반으로 AI는 우리의 삶을 더욱 편리하고 효율적으로 바꾸고 예측 불가능한 문제들을 해결하며 혁신적인 솔루션을 통해 새로운 가능성을 열어갈 것입니다.
산업 현장은 어떨까요? 공장의 기계들은 매일 쉬지 않고 가동되며 이 과정에서 진동, 온도, 소리 등의 다양한 데이터가 발생합니다. 이 데이터를 잘 수집하고 정제해 만든 AI는 Real World의 물리적 법칙과 데이터 맥락을 이해합니다. 산업 현장의 상황을 실시간으로 인지하고 장비, 설비, 로봇 등 물리적인 요소들이 행동하게 합니다. 사람이 룰을 정해주고 기계가 반복적으로 수행하는 자동화 패러다임을 AI가 지능화 패러다임으로 완전히 새롭게 정의하게 되는 거죠. 하지만 여전히 충분한 양의 고품질 데이터를 확보하고 일관성 있게 유지하는 일은 큰 도전 과제 중 하나입니다. Real World에서는 아직 수집 및 활용되지 않은 데이터가 무수히 많으며, 이 데이터를 활용하면 AI의 잠재력을 최대한으로 끌어낼 수 있습니다.
더 큰 시장, 더 큰 잠재력을 가진 Real-World AI가 펼쳐낼 새로운 지평이 궁금하신가요? 자동차, 반도체, 배터리, 화학, 국방, 유통, 공공 등 광범위한 산업의 엔터프라이즈 고객과 함께 Real-World AI를 실현하고 있는 마키나락스의 기술력은 곧 이어지는 포스팅에서 만날 수 있습니다. 그전에 우리 회사에 적합한 Real-World AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.
생성형 AI(거대언어모델) 비즈니스에 활용하기: 경영자/서비스기획자/PM의 필수 상식
by 카이로스의시간 2024. 1. 21.- 조직이 LLM(생성형 AI)를 활용하는 네 가지 방식
- 방식별 고려사항
- LLM 내재화 시
- 서비스 구조
- 수반될 수 있는 과업
- 우리 서비스에 적용
- 비즈니스 단계별 AI 프로젝트 선정 스킴
- 산업(Industry) 내에서 LLM은 어떤 과업(Task)을 수행하나?
- 산업별 생성형 AI 활용 현황
- 어떤 맥락(Job)에서 LLM을 사용할까?
- AI를 적용하기 좋은 Job을 결정할 때 삼을 수 있는 기준들
조직이 LLM(생성형 AI)를 활용하는 네 가지 방식
1. 조직 내 구성원들이 네이버, 구글 검색을 업무에 활용했던 것처럼 챗GPT 같은 잘 구축된 생성형 AI(SOTA LLM; State of the Art LLM) 서비스를 업무에 적극 활용
2. 조직 내 구성원들이 기존에 활용하던 업무툴(MS오피스, 슬랙, 노션, 팀즈, 어도비킷, 아웃룩 등. 즉, 조직 내부의 데이터가 아카이빙된 툴)에 통합된 생성형 AI 기능을 활용
3. 잘 구축되어 있는 LLM을 우리 조직의 니즈에 맞게 파인튜닝하여 활용
- 현대백화점 AI 카피라이터 <루이스> : 네이버 하이퍼클로바 기반 이에 현대백화점 과거 광고 문구를 학습시킨 서비스
- 모건스탠리 : 오픈AI와 파트너십을 맺고 회사 내 데이터로 파인튜닝 수행. 직원들의 수작업을 줄이고 복잡한 문서를 재빨리 분석해주는 챗봇 활용
- 블룸버그 : 고객사에 제공하는 솔루션에 본사가 보유한 유료 데이터를 기반으로 파인튜닝한 챗GPT(블룸버그GPT)를 갖다붙임. 고객사 직원들이 수월하게 솔루션을 사용
4. 빅테크 기업이 제공하는 SOTA LLM이 아니라 우리 조직의 비즈니스, 서비스 특성에 맞춘 고유한 LLM(Vertical LLM 혹은 Small Scale LLM)을 구축
방식별 고려사항
※ 내부 고객(조직원)이 아닌 외부 고객향 서비스를 위의 방식으로 구축한다고 가정할 때
| 1~3번 방식 - LLM을 외주 | 4번 - LLM을 내재화 | |
| 고민 | 누구나 사용할 수 있는 LLM으로 우리 기업만의 차별점을 제공할 수 있을까? 지금 우리 사업에서 LLM의 역할이 크고 계속 커지고 있는데… - LLM 사용료가 갑자기 올라가면 어떡하지? - LLM 제공업체가 제공량(Quota)을 줄이면 어떡하지? - 즉, LLM 제공업체의 협상력이 올라가고 우리 사업이 타사 정책에 종속되는 문제 - OpenAI API 모델 및 버전 마이그레이션. 지난 해의 11월 즈음, OpenAI에서 구형 API 모델에 대한… | by song for the mute | Jan, 2024 | Medium |
SOTA LLM보다는 자연어 처리 성능이 떨어지는구나. - Open source LLM 중에 어떤 것을 선택해서 학습시켜야 할까? 파인튜닝(Fine-tuning)에 드는 비용 - 산업(Industry) 내 좋은 양질의 데이터 확보 - 확보한 데이터 학습(파인튜닝)을 위해 전처리 - 학습 - 평가의 루프 반복 모델 유지/보수/관리 - FMOps(Foundation model ops.) 비용 이 모든 투자에도 불구하고 모델의 성능이 만족스럽지 않을 가능성 |
+ 오픈AI가 사용자들의 데이터를 모두 샅샅이 확인하고 있는 것은 아니겠지만 일말의 유출 가능성이라도 있다면 반드시 재고하고 넘어가야 할 문제입니다. 그래서 기업들은 자체적으로 보안을 지킬 수 있는 맞춤형 커스텀 거대언어모델을 만들려고 하는 추세. 그것이 가능해진 이유가 메타에서 라마-2를 오픈소스로 공개했기 때문. 소스코드를 연구 목적은 물론 상업용으로도 사용 가능하도록 공개. 후발주자라는 단점을 극복하고 LLM 생태계 자체를 자사 중심으로 재편하겠다는 의도 - 업스테이지 CTO 이활석 강의 중
+ 금융권은 철저한 방어모드
금융사 내부망-챗GPT 연동 안 된다 - 디지털투데이 (DigitalToday)
[디지털투데이 강진규 기자] 금융회사가 내부망에 오픈(Open) 응용프로그램인터페이스(API)를 연동해 챗(Chat)GPT를 사용하는 것이 망분리 위반이라는 금융당국의 판단이 나왔다. 27일 금융권에 따르
www.digitaltoday.co.kr
참고. OpenAI 파인튜닝 모델 사용료
| 계열 | 모델 | 설명 | Input | Output | Output usage |
| Fine-tuning models | gpt-3.5-turbo gpt-3.5-turbo-1106 (recommended) gpt-3.5-turbo-0613 |
모델을 미세 조정하면 해당 모델에 대한 요청에 사용한 토큰에 대해서만 요금이 청구됩니다. | $0.0080 / 1K tokens | $0.0030 / 1K tokens | $0.0060 / 1K tokens |
| davinci-002 | 모델을 미세 조정하면 해당 모델에 대한 요청에 사용한 토큰에 대해서만 요금이 청구됩니다. Instruction을 추종하는 데에 최적화되어 있지 않고 성능이 떨어지지만 협소한 과업에 맞게 미세 조정하면 효과적으로 사용할 수 있습니다. |
$0.0060 / 1K tokens | $0.0120 / 1K tokens | $0.0120 / 1K tokens | |
| babbage-002 | $0.0004 / 1K tokens | $0.0016 / 1K tokens | $0.0016 / 1K tokens |
||
| gpt-4-0613 (experimental — eligible users will be presented with an option to request access in the fine-tuning UI) when creating a new fine-tuning job | |||||
참고. 세부 모델별 사용료
| 계열 | 설명 | 모델 | Input | Output | Output usage(파인튜닝 완료 모델 해당) |
| GPT-4 Turbo | - 최신 모델 - 명령 수행, JSON 모드, 출력물 재현 가능, 병렬 함수 호출 등이 가능 - 최대 4,096개의 출력 토큰을 반환 - 현재는 미리보기(preview) 모델임로 프로덕션에 적용하기에는 부적합 |
gpt-4-1106-preview | $0.01 / 1K tokens | $0.03 / 1K tokens | |
| - GPT-4 Turbo의 기능 + 이미지를 이해하는 기능 추가 - 최대 4,096개의 출력 토큰을 반환 - 현재는 미리보기(preview) 모델임로 프로덕션에 적용하기에는 부적합 |
gpt-4-1106-vision-preview | $0.01 / 1K tokens | $0.03 / 1K tokens | ||
| GPT-4 | - 대규모 멀티모달 모델(텍스트 또는 이미지 입력을 받아 텍스트로 답변 출력) - 광범위한 일반 지식과 고급 추론 기능 - gpt-3.5-turbo와 마찬가지로 GPT-4도 채팅에 최적화 - Completion API를 사용하는 기존 글 생성 작업에도 잘 작동 |
gpt-4 | $0.03 / 1K tokens | $0.06 / 1K tokens | |
| gpt-4-32k | $0.06 / 1K tokens | $0.12 / 1K tokens | |||
| GPT-3.5 Turbo | - gpt-3.5 시리즈의 플래그십 모델 - 이전의 콘텍스트를 16K까지 기억(a.k.a. Context window) - 대화(Chat)에 최적화 |
gpt-3.5-turbo-1106 | $0.0010 / 1K tokens | $0.0020 / 1K tokens | |
| - 인스트럭트 모델 - 이전의 콘텍스트를 4K까지 기억(a.k.a. Context window) |
gpt-3.5-turbo-instruct | $0.0015 / 1K tokens | $0.0020 / 1K tokens | ||
| Assistants API | - 어시스턴트 API와 도구(검색Retrieval, 코드 인터프리터)를 사용해 자체 서비스 내에 AI 어시스턴트를 쉽게 구축 가능 - 지식 검색을 위해 전달된 파일에 따라 저장 비용이 발생 - 검색 도구는 벡터 데이터베이스에서 파일 콘텐츠를 청크하고 색인화 - 어시스턴트는 모델을 호출할 때 스레드에서 어떤 컨텍스트를 포함할지 추론해 선택 - 어시스턴트 API에 사용되는 토큰은 선택한 언어 모델의 토큰당 입력/출력 요금으로 청구 |
Code interpreter | $0.03 / session (free until 12/13/2023) | ||
| Retrieval | $0.20 / GB / assistant / day (free until 01/12/2024) | ||||
| Fine-tuning models | - 학습 데이터로 기본 모델을 파인튜닝하여 맞춤형 모델을 모델을 생성 가능 - 파인튜닝하면 해당 모델에 대한 요청에 사용한 토큰에 대해서만 요금 청구 |
gpt-3.5-turbo | $0.0080 / 1K tokens | $0.0030 / 1K tokens | $0.0060 / 1K tokens |
| - 기본 모델로, Instruction 추종에 최적화되어 있지 않고 성능이 다소 떨어지지만, 협소한 특정 작업에 맞게 미세 조정하면 효과적 | davinci-002 | $0.0060 / 1K tokens | $0.0120 / 1K tokens | $0.0120 / 1K tokens | |
| babbage-002 | $0.0004 / 1K tokens | $0.0016 / 1K tokens | $0.0016 / 1K tokens | ||
| Embedding models | - 텍스트 데이터를 벡터 데이터화하여 고급 검색, 클러스터링, 토픽 모델링 및 분류 기능에 활용 가능 | ada v2 | $0.0001 / 1K tokens | ||
| Image models | - 새로운 이미지를 생성하고 편집 - DALL-E 3는 최고급 모델 - DALL-E 2는 비용 효율적인 모델 |
DALL·E 3 - Standard | 1024×1024 $0.040 / image | ||
| 1024×1792, 1792×1024 $0.080 / image | |||||
| DALL·E 3-HD | 1024×1024 $0.080 / image | ||||
| 1024×1792, 1792×1024 $0.120 / image | |||||
| DALL·E 2 | 1024×1024 $0.020 / image | ||||
| 512×512 $0.018 / image | |||||
| 256×256 $0.016 / image | |||||
| Audio models | 음성을 텍스트로 변환하고 다양한 언어를 영어로 번역할 수 있습니다. | Whisper | $0.006 / minute (rounded to the nearest second) | ||
| 텍스트를 음성 오디오로 변환할 수 있습니다. | TTS | $0.015 / 1K characters | |||
| TTS HD | $0.030 / 1K characters |
LLM 내재화 시
서비스 구조
서비스 맥락에 특화된 버티컬 LLM(Vertical LLM 혹은 Small scale LLM)을 마련하는 경우
- 오픈소스 LLM을 선택하여 맥락에 특화된 산업 데이터를 학습(파인튜닝)
- 필요하다면 대화 맥락에 맞게 다양한 도구(API 등)를 적절히 호출
- 이를 위해 필요한 하위 과업과 우선순위를 정의할 수 있는 에이전트 필요
참고. 오픈소스 진형의 플레이어
수반될 수 있는 과업
| 대화 품질 강화를 위한 기술의 방향성 | 기술 항목 | 구체적인 기술 항목 |
| 산출물의 품질 고도화(모델 강화와 운영 고도화) | LLM 기반 모델 | LLM 모델 고도화 |
| MoE(Mixture of Expert) / LLM 콘트롤러 / 오케스트레이션 | ||
| 오토GPT / 리액트 / 오토젠 | ||
| Foundation Model Ops. | 프롬프트 엔지니어링 / 파인튜닝 | |
| 데이터 그라운딩 | ||
| 임베딩과 벡터 데이터베이스 | ||
| 세이프티(필터링, 퍼스펙티브 API) | ||
| 플러그인 / 펑션콜 | ||
| 사용자 인터랙션 강화(개인별 맞춤 상호작용) | UX / UI | 멀티 모달 |
| 다중 페르소나 |
우리 서비스에 적용
그러면 내가 IT 서비스 기획자라면, 우리 서비스의 초기 AI 프로젝트는 어느 방안을 지향해야 하나?
비즈니스 단계별 AI 프로젝트 선정 스킴
How to Choose Your First AI Project (Andrew Ng. Andrew Ng: How to Choose Your First AI Project (hbr.org))
※ Andrew Ng : Landing AI의 창립자이자 CEO이며, Baidu 전부사장이자 최고 과학자, Coursera의 공동 창립자이자 공동 의장, Google Brain의 창립 리더, Stanford University의 겸임 교수
- 빠른 성과
- 적절한 규모
- 산업 특화
- 신뢰할 수 있는 파트너 : 프로젝트를 가속화할 수 있는 신뢰할 수 있는 파트너의 존재
- 가치 창출 : 궁극적인 목표
AI 피보팅 : AI는 어떻게 기업을 살리는가?(김경준 - 딜로이트 컨설팅 부회장)
- 초기
- 중요도 높음 / 시급성 낮음
- 파급성 높음 / 난이도 낮음
- 확산
- 중요도 높음 / 시급성 높음
- 파급성 높음 / 난이도 낮음
- 안정
- 중요도 높음 / 시급성 낮음
- 파급성 낮음 / 난이도 높음
산업(Industry) 내에서 LLM은 어떤 과업(Task)을 수행하나?
산업별 생성형 AI 활용 현황
헬스케어와 생명과학
| 분야 | 설명 | 플레이어 |
| 단백질 및 약제 설계 Protein & drug design |
제약 회사들이 분자 구조를 예측하고 약물 발견 및 설계하는 데 생성형 AI를 활용. 이를 통해 신약의 시장 출시까지 걸리는 기간을 대폭 단축(하는 것이 목표) | Biomatter Designs Cradle VARIATIONAL AI Diffuse BIO Generate:Biomedicines |
| 생물의학 자연어 처리 Biomedical NLP |
의학 문헌을 대량으로 학습하여 이를 추출, 요약, 분석해 임상과 관련된 의사결정을 지원 요구되는 과업 #Retrieval #정보 추출 #요약 #분류 #태깅 #질의응답 #텍스트 생성 #유해정보 탐지 #팩트 체크 #인과관계 분류 #데이터를 텍스트로 생성 |
Merck Eli Lilly Novo Nordisk Bristol-Myers Squibb (BMS) NVIDIA |
| 환자의 디지털 쌍둥이 Patient digital twins |
의료진과 연구원들이 생성형 AI를 사용해 환자의 디지털 쌍둥이를 만들어 시뮬레이션하거나 치료 계획 수립 | |
| 의무 기록 자동화 EHR documentation |
실시간으로 의사-환자 상호작용을 문서화하고 요약하는 데 생성형AI 활용 의료 제공자는 의료 문서 작성에 걸리는 시간을 줄이고, 환자와 더 많은 시간을 보내며, 환자 기록의 정확성과 완전성을 향상시키고, 진료에 집중 요구되는 과업 #STT #Retrieval #정보 추출 #텍스트 생성 #요약 #분류 #태깅 #인과관계 분류 #지시된 엔티티 식별 #데이터를 텍스트로 생성 |
Suki Speechmatics Fathom Regard Ambience Abridge DeepScribe Corti |
| 웰니스 기술 Wellness tech |
고객의 생체 데이터, 위치 데이터를 실시간으로 활용하여 사운드 스케이프(sound scape)와 몰입도 높은 VR 경험을 제공 | Inflection charater.ai soul machines im Replika CHAI |
| 환자 데이터 합성 Synthetic patient data |
생성형 AI를 통해 실제 환자 데이터를 모사한 데이터셋을 생성하여 환자 개인정보를 보호하면서도 분석이나 연구 수행은 용이하게 함 | |
| 영상의학 이미지 향상 Radiology image enhancement |
영상 의무기록의 재구성하거나 영상물의 노이즈를 줄이기 위해 생성 AI를 활용. 이를 통해 재검사(와 이에 따른 방사능 추가 노출)를 줄임 |
참고. 생물의학 자연어 처리(Biomedical NLP) 분야 Big Player
| 기업명 | 사업 소개(Biomedical NLP 관련) |
| Merck | 이 회사는 문서 리포지토리인 Documentum에 있는 안전성 평가 보고서에서 핵심 정보를 추출하는 데 NLP를 활용합니다. 이 프로세스는 신약 개발, 임상 개발, 시판 후 감시를 통해 관련 데이터에 대한 포괄적인 시각을 제공하고 현재 진행 중인 파이프라인에서 더 나은 의사결정을 내릴 수 있도록 지원합니다. |
| 일라이 릴리 | 이 회사는 NLP 텍스트 마이닝을 사용하여 ClinicalTrials.gov와 같은 임상 시험 데이터베이스에서 정보를 찾아냅니다. 이 접근 방식은 다른 방법으로는 불가능한 임상시험 사이트, 선정 기준, 연구 특성 및 환자 수와 같은 관련 정보를 신속하게 식별하고 추출하는 데 도움이 됩니다. 예를 들어, 일라이 릴리는 ClinicalTrials.gov에 대한 NLP 쿼리를 통해 300개의 임상시험을 추가로 신속하게 찾을 수 있었습니다. |
| 노보 노디스크 | 이 회사는 콜센터 피드 및 의료 정보 요청과 같은 다양한 소스에서 실제 데이터(RWD; Real World Data)를 분석하는 데 NLP를 사용합니다. 이 회사는 이 RWD를 변환하기 위해 NLP 워크플로우를 구축하여 전세계 인력 전체가 데이터를 실행 가능한 상태로 만드는 의료 및 환자 대시보드를 추진했습니다. 이 접근 방식은 상당한 리소스를 절약하고 인사이트에 대한 액세스를 확대했습니다. |
| 브리스톨 마이어스 스퀴브(BMS) | BMS는 심부전 위험에 따라 환자를 계층화할 때 NLP를 사용합니다. 약 900명의 환자에 대한 전자 의무 기록과 영상 데이터를 확보하고 NLP를 사용하여 다양한 임상 변수를 추출하고 정규화했습니다. 이 과정을 통해 다양한 심부전 환자 계층을 식별하여 임상시험 설계 및 치료제 개발에 도움을 줄 수 있었습니다. |
| NVIDIA | 바이오메디컬 및 임상 NLP를 위한 최첨단 언어 모델인 BioMegatron을 개발했습니다. 이 모델은 PubMed와 같은 대규모 말뭉치에서 학습되었으며, 명명된 개체 인식(NER), 관계 추출(RE), 질의응답(QA)과 같은 다양한 NLP 애플리케이션에 사용됩니다. 이 모델은 문서화 부담을 줄이고 임상 의사 결정을 개선하는 데 도움이 됩니다. |
Big player들은 의료 서비스 공급자, 제약사 중심 - 왜 그런가?
LLM이 활용할 수 있는 중요하고도 복잡한 데이터들이 모두 공급자에게 있음
그리고 그 데이터를 기반으로 중요한 의사결정(어떤 치료방법을 사용할지, 신약을 출시할지 말지 등)을 내리는 주도권이 모두 그들에게 있기 때문
인력이 투입되던 기존 과업에 AI를 도입했을 때의 얻을 수 있는 가치의 증분이 더 큼 → 페이퍼 워크에 시달리는 고숙련 임상 전문가의 업무를 AI로 대체하여 임상 전문가들은 진료에만 집중
의료는 휴먼 에러의 비용이 큰 분야 → AI는 실수가 없음
금융과 보험
| 분야 | 설명 | 플레이어 |
| 대화형 금융 Conversational Finance |
생성형 AI 챗봇 혹은 음성 비서가 고객의 금융 업무를 보조. 가령, 고객의 지시에 의해 계좌 잔액을 알려주고, 금융 거래 일정을 알려주고, 금융 관련 조언을 제공하는 등 요구되는 과업 #Retrieval #TTS, STT #정보 추출 #지시된 엔티티 식별 #분류 #태깅 #질의응답 #텍스트 생성 #유해정보 탐지 #데이터를 텍스트로 생성 |
ABN-AMRO AMERICAN EXPRESS BARCLAYS CapitalOne WELLS FARGO |
| 금융 분석 Financial Analysis |
생성형 AI 비서는 거대 언어모델을 통해 금융 데이터와 정보를 분석. 이를 통해 필요한 이에게 통찰을 제공하고 재무 전략을 제시하거나 벤치마크와 비교하는 등의 과업을 수행 요구되는 과업 #Retrieval #질의응답 #텍스트 생성 #정보 추출 #데이터를 텍스트로 생성 #분석 #요약 |
Citadel Deutsche Bank Morgan Stanley |
| 합성 데이터 생성 Synthetic data generation |
개인정보 이슈가 제거된 데이터를 생성함으로써 다량의 훈련 데이터를 금융모델을 고도화에 활용 | |
| 보험 영업 Sales & distribution |
복잡하고 비구조화된 데이터(약관 등)를 간단한 언어로 변환하여 영업사원이나 고객의 커뮤니케이션 보조 요구되는 과업 #Retrieval #요약 #텍스트 생성 #정보 추출 #스타일 변경 #텍스트 단순화 |
Experian Humana Morningstar |
| 인수 Underwriting |
보험금 청구를 위해 제출된 서류를 요약 및 평가하여 인수 결정을 자동화. 혹은 추가 조사가 필요한 부분을 하이라이트 하는 등 인수과정의 효율화 지원 요구되는 과업 #Retrieval #정보 추출 #유해 텍스트 탐지 #지시된 엔티티 식별 #협상 전략 탐지 |
Corvel Zurich |
| 청구 Claims |
비구조화된 청구 서류를 분석하여 특이 패턴을 식별. 보험사는 이 발견을 제품 전략, 인수 기준, 손실 통제 노력에 반영 요구되는 과업 위와 동일 |
Corvel Zurich |
유통
| 분야 | 설명 | 플레이어 |
| 가상 사진 촬영 Virtual photoshoots |
상품 사진이나 모델 착용샷을 생성형 AI로 만들어 제품 판매에 활용 | DATAGRID FLEX STOCK Bigthinx LALALAND StyleScan CALA ZMO.AI NeuroPixel.AI |
| 3D 제품 카탈로그 3D product catalogs |
생성형 AI를 사용하여 텍스트나 2D 이미지를 3D 객체로 변환하고, 고객과 풍성하게 상호작용할 수 있는 3D 제품 카탈로그를 제공 | Curie Alpha AR Pttrns.ai |
| 고객 서비스 지원 Customer service support |
CS부서가 고객의 문의에 더 빨리 응대하고 문제를 해결할 수 있도록 생성형 AI가 보조 요구되는 과업 #Retrieval #TTS, STT #정보 추출 #지시된 엔티티 식별 #분류 #태깅 #질의응답 #텍스트 생성 #유해정보 탐지 #데이터를 텍스트로 생성 #감성 분석 #함의 파악 |
Verneek HIVE Forethought |
| 이커머스 제품 설명 E-commerce product descriptions |
제품이나 상품에 대한 매력적인 설명문을 생성형 AI가 작성 요구되는 과업 #Retrieval #정보 추출 #데이터를 텍스트로 생성 #지시된 엔티티 식별 #분류 #태깅 #텍스트 생성 #제목 생성 #문법 오류 탐지 |
AX SEMANTICS anyword phrasee Instoried WRITER Jasper peppercontent contents.com Linguix Hypotenuse AI copy.ai Draft copysmith Shopify Amazon Ax Semantics |
| 개인화된 마케팅 콘텐츠 Personalized marketing content |
다양한 타겟 오디언스나 채널향으로 시각 콘텐츠를 확장할 때, 생성형 AI가 제작 보조 | WRITER copy.ai Bluecore Writesonic text.cortex neuroflash |
| 가상 패션 디자인 Virtual fashion design |
2D 스케치를 디지털 렌더링으로 변환하는 생성형AI 도구를 사용하여 디자인 작업을 전개 | DATAGRID FLEX STOCK Bigthinx LALALAND StyleScan CALA ZMO.AI NeuroPixel.AI |
어떤 맥락(Job)에서 LLM을 사용할까?
출처 : Commercializing AI in Healthcare: The Jobs to be Done | Andreessen Horowitz (a16z.com)
| 고객향 | 전문가향 | |
| 임상(Clinical) | Talk Therapy - AI는 치료사와 내담자 사이에 오간 대화를 분석하여 어떤 지점을 공략해야 문제 해결을 효과적으로 할 수 있을지 식별 - 내담자가 편하게 속내를 끄집어낼 수 있게 유도 - AI를 활용한 talk therapy 사례: https://www.technologyreview.com/2021/12/06/1041345/ai-nlp-mental-health-better-therapists-psychology-cbt/ Care Management Patient Intake |
Chapter 2.에서 나열된 Job들 Patient Triage(환자 분류) / Care Coordination |
| 비임상(Non-clinical) | Benefits Navigation / Enrollment Patient Financial Assistance Scheduling |
AI를 적용하기 좋은 Job을 결정할 때 삼을 수 있는 기준들
1. 고숙련 노동력이 많이 투여되어야 하는 영역
2. AI를 통해 성과가 10배는 향상될 수 있는 영역
- 이 시간을 금액을 환산하면 얼마인가?
3. 소프트웨어의 도입이 더딘 영역
- 과업의 대부분을 인간이 수행하고 있는 부분
4. 법적 규제를 잘 이해하고 사용할 수 있는 영역
- 완전히 시스템으로 움직이는 시스템 vs. 사람이 개입하는 시스템
- (규제와 모니터링이 빡빡한) 임상 용도보다는 비임상 용도가 더 안전할 수 있음(우리 서비에게도, 고객에게도)
5. 수익과 재무적인 측면에서 이로울 것이 확실한 영역
- 수익화 방안. 즉, GTM을 고려
<금융 AI의 이해(김태현)> - 요약 정리 서평
평소에 퀀트 투자와 금융 데이터 분석 분야에 관심이 굉장히 많은 편인데요.
최근에 아주 좋은 기회로 <금융 AI의 이해>를 읽게 되었는데, 책의 내용이 굉장히 알차고 풍부해서 소개해드리려고 해요.
|
# 1
개요
|
‘금융’이란 인류 문명과 함께 발전해온 중요한 사회 시스템입니다.
금융 분야는 인류에게 있어 필수불가결한 분야이고,
따라서 이러한 방대한 금융 데이터를 적절하게 분석하고 활용하는 것이 중요합니다.
이 과정에서 AI가 중요한 역할을 할 수가 있는데요.
실제로 AI는 금융 산업에서 데이터 분석 자동화, 복잡한 패턴 식별, 미래 금융 동향 예측 등
다양한 역할을 수행할 수 있다고 합니다!
따라서 저희는 금융 산업에 혁신을 가져오는 금융과 AI의 결합을 잘 이해해야 하는데요.
<금융 AI의 이해>는 사기 탐지 시스템, 신용 평가 모델, 퀀트 투자, 생성형 AI 등
다양한 실무 사례와 실습을 통해 그러한 금융 AI의 융합을 이해하도록 돕는 책입니다!
위의 깃헙 링크에 들어가시면
실제 책에 등재되어 있는 코드를 확인하실 수 있어요.
보면서 클론코딩 하기에도 좋더라구요. ㅎㅎ
|
# 2
목차
|
Chapter 1. 금융과 핀테크에서의 AI
1장에서는 금융 분야에서 AI의 중요성과 영향력,
AI 기술이 금융 서비스와 거래 방식에
어떻게 긍정적인 영향을 미치고 있는지를 살펴봅니다.
Chapter 2. 금융 투자 영역에서의 AI
2장에서는 AI가 금융 투자 영역에 어떻게 활용되고 있는지를
파이썬 라이브러리, 머신러닝, 딥러닝 전략을 통해 살펴봅니다.
Chapter 3. AI 기반의 신용 리스크 모델링
3장에서는 머신러닝 모델링을 통해
신용 리스크를 평가하는 방법을 살펴봅니다.
Chapter 4. AI를 활용한 금융 사기 거래 탐지 및 예방
4장에서는 AI를 통해
금융 사기를 탐지 및 예방하는 방법을 살펴봅니다.
Chapter 5. 금융 AI 프로덕트 관리
5장에서는 데이터/머신러닝 파이프라인 구축, 배포,
모니터링, 성과 측정 등 AI 프로덕트의 관리 방법을 살펴봅니다.
Chapter 6. 금융에서의 생성형 AI 활용
6장에서는 생성형 AI 기술의 개념을 살펴보고,
이러한 기술이 금융 서비스에 어떻게 통합 가능한지 살펴봅니다.
|
# 3
1장 요약 (일부)
|
1.1 금융이란 무엇인가?
- 현대 금융에서는 그 자체로 가치를 지니는 데이터의 효과적 분석·활용 필요
1.3 AI와 그 주변 용어들
- 대량의 데이터를 분석·예측하는 데 탁월한 AI → 금융 서비스의 효율성 및 정확성 향상
- 사회 경제 전반에 큰 변화를 가져오는 AI
1.4 금융과 AI
1.4.2 금융 산업에 대한 AI의 영향력이 큰 이유
① 데이터 중심의 산업과 금융의 연결고리
- 금융에서 생성 및 관리되는 방대한 양의 정형 데이터는 AI 기술 활용에 적합
- AI 모델 학습 및 정확도 향상에 크게 기여
② 효율성과 경쟁의 중심, AI
- 금융 기업의 운영 효율성 증폭
- 자동화로 인한 인건비 절감
③ 서비스의 차별화와 AI의 역할
- 고객의 행태나 선호를 깊이 분석하여 개인화된 서비스 제공
- 실시간 금융 시장 변화 및 고객 요청에 빠르게 대응
- 금융 서비스의 효율성과 편의성 극대화
④ 새로운 가치를 창출하는 AI
- 금융기관의 새로운 비즈니스 모델과 수익 창출의 기회
- 데이터 중심의 성격을 지니는 금융 산업
- AI에 필수적인 데이터를 풍부하게 활용
1.4.3 금융 AI 트렌드
- 2023 금융 서비스에서의 주요 AI 활용 사례 (출처: 엔비디아)
- 자연어 처리/LLM(26%)
- 추천 시스템(23%)
- 포트폴리오 최적화(23%)
- 사기 탐지: 거래/결제(22%)
- 사기 탐지: 자금 세탁 방지/고객 알기 제도(22%)
- 알고리즘 트레이딩(21%)
1.4.4 금융 서비스에서의 AI의 핵심 가치
① 리스크 평가의 정확성
② 운영 효율성의 향상
③ 비용 절감
1.5 금융 AI의 주요 활용 분야
① 신용 결정
② 사기 탐지 및 방지
③ 고객 서비스
④ 투자와 트레이딩
⑤ 준법 감시 및 규제
⑥ 프로세스 자동화
1.5.5 준법 감시와 규제
: 기관의 안전성과 무결성을 보장
① 레그테크(regulatory technology, RegTech): 규제 기술
② 자금 세탁 방지(anti-money laundering, AML)
③ 고객 알기 제도(know your customer, KYC)
④ 거래 감시(trade surveillance)
⑤ 규제 보고 자동화(regulatory reporting automation)
⑥ 규제 변화에 대한 예측 분석(predictive analysis for regulatory change)
1.5.6 프로세스 자동화
: 인텔리전트 오토메이션(intelligent automation), 하이퍼오토메이션(hyperautomation, 초자동화)
① 로보어드바이저
② 클레임 처리
③ 대출 심사
④ 자금 세탁 방지 및 고객 알기 제도
⑤ 자산 관리
1.6 금융 AI 핵심 문제 정의
AI in Finance Global Challenge
① 고객 경험 향상(elevating customer experience)
- AI를 활용해 내외부의 다양한 데이터를 분석하고, 고객의 깊은 요구와 기대치를 파악하면서 어떻게 개인화된 경험을 제공할 수 있을까?
- AI 기술을 통해 조직 및 규제 기준을 준수하면서 고객의 질문에 안전하게 직접 응답하는 인터페이스는 어떻게 구현할 수 있을까?
- 어떻게 AI를 활용하여 고객 서비스의 콜센터나 운영 팀이 각각의 상황을 고려하여 고객의 질문이나 요구에 신속하게 반응할 수 있도록 지원할 수 있을까?
- 고객과의 상호작용을 분석하여 서비스 품질을 AI로 어떻게 일관되게 유지하고 향상시킬 수 있을까?
② 운영 효율성 향상(enhancing operational efficiency)
- 실시간 시장 데이터와 고객의 선호도를 기반으로, AI를 활용하여 트레이딩 기관이나 자산 관리사가 포트폴리오를 관리하고 최적의 투자 전략을 추천받는 방법은 무엇일까?
- 보험 청약, 대출 발행, 결제 등의 과정에서 AI를 활용하여 정보 수집, 정리, 분석 작업을 어떻게 효율적으로 최적화할 수 있을까?
- 어떻게 하면 AI로 고객이나 내부 팀의 특별한 요청에 대한 비표준 보고서나 응답을 생성할 수 있을까?
- AI를 활용하여 청구서의 다양한 형식을 효과적으로 분류하고 처리하면, 청구 팀은 어떻게 더 복잡한 사례에 집중할 수 있을까?
③ 리스크, 규정 준수 및 사기 모니터링 강화(strengthening risk, compliance and fraud monitoring)
- AI를 활용하여 인간의 개입 없이 고객의 개인 정보 보호 수준을 유지하면서 잠재적 리스크와 사기 활동을 어떻게 자동으로 감지할 수 있을까?
- 내외부 데이터를 분석하여 포트폴리오나 고객의 리스크 수준을 AI로 어떻게 평가하고 매핑할 수 있을까?
- AI를 사용하여 사기 법인의 가치 평가에 대한 투자자의 신뢰도를 어떻게 향상시킬 수 있을까?
- 기업 및 소셜 미디어 플랫폼에서의 활동을 AI로 모니터링하여, 의심스러운 활동을 어떻게 감지할 수 있을까?
④ 환경, 사회 및 거버넌스 솔루션 활성화(enabling environmental, social and governance solution)
- 기관 간에 제한되고 파편화된 데이터를 고려하여, AI는 어떻게 기후 리스크, 배출, ESG 데이터를 효과적이고 신뢰할 수 있게 표준화하여 측정, 추적, 검증할 수 있을까?
- 어떻게 AI를 활용하면, 예상되는 기후 리스크, 산업 표준, 규제 요구 사항 또는 비즈니스 목표와 같은 요인들을 고려하여, 사업의 특성과 지속 가능한 경로를 기반으로 넷제로(탄소 중립) 계획을 지원할 수 있을까? 넷제로 계획의 예로는 탄소 저감 경로, 지속 가능성 성과 목표, 지속 가능성과 연결된 대출 등이 있다.
1.7 금융 AI 전망과 도전적 과제들
1.7.3 기존 레거시 시스템의 한계
- 유연성과 확장성이 부족한 레거시 시스템
- 새로운 기술과 혁신에 빠르게 대응하기 위해 파괴적 혁신 필요
1.7.4 윤리적 고려의 중요성
- 고객의 신뢰와 긴밀히 연결된 금융산업
- AI의 도입으로 인해 깊은 윤리적 고려 필요
- AI가 편향된 데이터를 기반으로 학습할 경우, 결과가 편향될 수 있음
- AI 기술을 활용한 금융 상품 마케팅 및 판매에서도 윤리적 고려 필요
|
# 4
2장 요약 (일부)
|
2.1 대표적인 금융 투자 방식
퀀트 투자(quant investment)
- 체계적(systematic) 투자 방법론
- ↔ 계량적(discretionary) 투자: 인간 투자자의 경험과 직관에 따라 투자
- AI/ML이 발전하며 이전의 가정 기반 투자 방식에서 벗어나 복잡한 패턴이나 비선형 관계를 탐색하는 새로운 투자 방식으로 발전
- 금융 데이터의 숨겨진 패턴을 발견하거나 예측 모델을 구축하는데 도움
알고리즘 트레이딩(algorithmic trading)
- = 시스템 트레이딩
- 자동화된 트레이딩 시스템을 통해 금융 시장의 자산 거래
- 사전에 정의된 규칙과 알고리즘에 따라 자동으로 거래
2.2 금융 투자 영역에서 AI가 각광받는 이유
투자 분야에서 머신러닝의 강점
- 전통적인 투자 금융 영역에서는 선형회귀(linear regression) 모델 방법론이 주로 사용되었으나, 현실 세계의 복잡한 문제를 모델링하기 위해서는 머신러닝의 비선형 관계를 찾는 능력이 필요
2.3 AI를 접목한 투자의 장점과 단점
장점
- 감정적 편향을 배제한 체계적 투자 전략
- “최적의 알고리즘 전략은 다른 사람들의 감정적 선택을 관찰하고, 그로부터 학습하며 이익을 얻는 것(the best algorithmic strategies will observe, learn from, and profit from others’ emotional choices)”
단점
- 알고리즘이란 현실 세계를 단순화한 모델
- 파라미터들은 과거 데이터에 기반하여 최적화되지만, 주식 시장은 끊임없이 변화중
- 주식시장 예측의 과적합 경향 문제
- 편향과 윤리적 문제
- AI 모델의 지속적 업데이트와 감시 필요
2.6 전통적인 퀀트 투자 vs. AI 기반의 계량 투자
2.6.1 전통적인 퀀트 투자 전략
① 평균 회귀 전략(mean reversion strategy)
- 가격이 평균으로 돌아가려는 경향을 이용하는 전략
- 과대평가된 자산은 팔고, 과소평가된 자산은 산다
- 예시: 볼린저 밴드 전략
- 주가의 상대적 위치를 파악하여 과매수 및 과매도 상태 식별
② 추세 추종 전략(trend following strategy)
- 기존의 추세를 따라가는 전략
- 가격이 상승 추세에 있을 때 매수하고 하락 추세에 있을 때 매도
- 예시: 듀얼 모멘텀 전략
- 상대적 모멘텀과 절대적 모멘텀을 모두 사용하여 추세의 힘 이용
③ 페어 트레이딩(pairs trading)
- 상관관계가 높은 두 자산의 가격 차이가 일시적으로 벌어졌을 때, 과소평가된 자산을 매수하고 과대평가된 자산을 매도
- 예시: ETF(exchange-traded fund) 페어 트레이딩 전략
- 유사한 시장 섹터의 두 ETF 간 가격 차이 활용
④ 요인 모델(factor model)
- 여러 시장 요인들(가치, 크기, 모멘텀)이 자산 가격에 미치는 영향 분석
- 예시: Fama-French 3 factors 모델
- 시장, 회사 규모, 가치 요인을 통해 자산 수익률 설명
⑤ 이벤트 기반 전략(event-driven strategy)
- 기업의 중대한 사건(인수합병, 주주 활동 등)을 기반으로 자산 거래
- 예시: 인수합병 아비트라지(M&A arvitrage)
- 인수 대상 기업의 주가와 인수 제안 가격 간 차이 활용
2.6.2 AI 기반 투자 전략
: 금융 시장의 복잡한 패턴 이해, 효율적 의사결정
① 포트폴리오 최적화(portfolio management)
- 자산의 선택/관리를 포함하여 장기적 이익 추구
- AI는 다양한 시장 조건에서 최적의 수익률과 리스크의 균형을 찾는데 도움을 줄 수 있다
- 미래 수익률을 예측하고 이를 바탕으로 포트폴리오 구성
- 스톡 셀렉션 전략(stock selection strategy): 주식 종목 선택 전략
② 시장 동향 예측(price prediction)
- 특정 주식이나 금융 자산의 미래 가치 예측
- 미래의 가격 변동 예측 → 구매 및 판매 결정
③ 신호 기반 트레이딩(signal-based trading strategy)
- 알고리즘적으로 생성된 방법이나 절차를 사용하여 주식 시장에서 구매 및 판매 결정
- 시장 데이터 분석 → 거래 신호 생성 → 트레이딩 전략 수행
④ 텍스트 마이닝(text mining)
- 텍스트 데이터를 통해 시장 동향 분석
- 특정 이벤트가 주가에 미치는 영향 분석
⑤ 거래 전략 학습(market simulation)
- 다양한 시뮬레이션과 가상 시나리오 → 시장 데이터 생성
- 거래 전략 학습 및 개선
⑥ 리스크 관리(risk management)
- 트레이딩 관련 리스크 평가
- 수익률 극대화 위한 전략 수립
- 헤징 전략(hedging strategy)
- 다른 자산에 반대 투자 위치를 취함으로써 한 자산에 투자하는 리스크 완화
2.7 AI를 금융 투자에 활용할 때 주의해야 할 점
① 데이터 편향(data bias)
② 생존 편향(survivorship bias)
③ 미래 참조 편향(forward looking bias)
④ 시계열 데이터의 특성
⑤ 과적합 문제
⑥ 해석 가능성의 중요성
실습 1. 금융 시계열 및 파이썬을 활용한 전통 퀀트 방법 구현
실습 2. 머신러닝을 이용한 투자 전략
본 책에서는 머신러닝을 이용한 투자 전략의 예시로,
이동평균, 거래량 이동평균, 시장 강도 지수라는 세 지표를 사용하여 주가 트렌드 예측 모델을 개발하고 있습니다.
아래는 코드의 예시입니다.
이런 식으로 코드가 포함되어 있어서 실습하며 읽기에 정말 좋았어요.
|
# 4
후기
|
보통 금융 서적은 금융 도메인에만, IT 서적은 IT 도메인에만 집중하고 있는 경우가 많은데요.
<금융 AI의 이해>는 전혀 그런 느낌이 아니라 두 도메인을 아우르고 있어서 굉장히 독특하게 느껴졌어요.
내용을 보시면 아시겠지만, 카나리 배포에서부터 클라우드, 금융 시계열, 평균 회귀 전략, MDD 등
IT 및 금융 분야 전반의 내용을 두루 담고 있다는 것을 알 수 있습니다!
그 정도로 IT/데이터/클라우드 분야와 금융/투자 분야를 폭넓게 넘나들고 있는 책입니다.
클라우드 분야, 데이터 분석 분야, 밸류에이션, 머신러닝, 통계, 퀀트 투자, 핀테크 등,
금융/IT와 관련하여 융합적인 지식을 쌓고 싶으신 분들께는 <금융 AI의 이해>가 정말 좋은 선택지가 될 수 있다고 생각해요.
저는 이전에 취미로 공부를 할 때는 금융 데이터 분석이나 퀀트 투자 분야에 치중된 학습을 주로 했었습니다.
사실 이 책을 읽게 된 것도 퀀트 투자에 대한 정보를 얻기 위한 목적이 컸었는데요,
AI를 통해 신용 리스크 모델을 어떻게 구성할 수 있는지,
금융 사기 탐지 및 방지에 AI가 어떻게 활용되는지에 대한 내용을 배울 수 있었어요.
처음으로 학습해보는 주제라 흥미롭기도 했고, <금융 AI의 이해>를 통해 좀더 손쉽게 입문할 수 있어 이득이라고 느꼈답니다.
또한 금융 도메인에서 ChatGPT와 같은 생성형 AI가 어떻게 활용 가능한지도 알 수 있었어요!
지금까지 머신러닝이나 딥러닝 공부를 할 때는 이론을 위주로 공부했었는데, 금융 도메인에서 AI 지식이 어떻게 쓰이는지 자연스럽게 학습하게 되었어요.
예를 들어서 지도 학습법이나 비지도 학습법 같은 머신러닝 기법은 신용카드 사기 탐지 모델에 활용될 수 있다고 해요!
그리고 개인적으로, 퀀트 투자 입문을 하고 싶으신 분들께도 강력히 추천드립니다.
퀀트 투자에 관심이 많아 나름 오래 공부를 해온 입장으로서,
퀀트는 특히 국내에 공부 자료가 많지 않은 것 같다는 생각을 종종 했었는데요.
그런 의미에서 <금융 AI의 이해>는 정말 단비같은 책이 아닐 수 없었답니다.
<금융 AI의 이해> 2장에서는 가장 먼저 퀀트 투자의 개념과 역사를 설명한 뒤에
퀀트 투자의 장단점, 퀀트 투자의 전략과 실제 응용 사례 등을 설명합니다.
그리고 퀀트 투자 전략을 검증하기 위한 백테스팅(backtesting) 과정을 설명하고, 실제 퀀트 투자 성과를 어떤 지표로 평가할 수 있는지에 대한 내용을 소개해줍니다.
예를 들어서 퀀트 투자 전략은 연평균 복리 수익률(CAGR, Compound Annual Growth Rate), 최대 낙폭(MDD, Maximum DrawDown)과 같은 지표를 통해 투자 성과를 측정하게 됩니다.
그리고 머신러닝을 이용한 투자 전략과 딥러닝을 이용한 투자 전략을 차례로 설명하게 되는데요.
이때 단순히 개념과 이론만을 설명하기보다는 실제 예제와 함께 코드를 다 설명해주어서 더욱 빠른 이해가 가능했습니다!
코드와 설명이 꼼꼼히 기재되어 있어 실습을 하면서 학습하는 것도 가능했구요.
AI, 특히 금융 분야에서의 AI는 아직 많이 다뤄지지 않았다고 생각하는데요.
그런 의미에서 <금융 AI의 이해>는 정말 단비 같은 책이 아닐까 싶습니다.
금융 AI 시장의 규모는 앞으로도 더욱 크고 복잡해질 것이기 때문에,
AI의 진정한 효과를 발휘하기 위해 도전 과제들을 잘 수행해나가야 한다는 제언으로 마무리한다는 점이
굉장히 완성도 있게 느껴졌습니다!
금융/핀테크 업계에 종사하고 계시는 분들, AI 부서와 협업하시는 분들,
또는 금융 AI에 관심 있는 일반 독자분들께 많은 도움이 될 수 있는 책인 것 같아요.
금융/IT 분야에 관심 있는 많은 분들께 추천드리며, 저는 이만 포스팅 마치도록 하겠습니다! 😊
'C.H.A.T.S, 2025 디지털 마케팅 혁명' 카테고리의 다른 글
| 컨테이너 환경의 CI/CD 전략 - 데이터 파이프라인 기본 원리와 원칙은 시간이 지나도 유효 - 빅데이터 분석 기반이란? 데이터 파이프라인 구축 (0) | 2025.03.29 |
|---|---|
| 챗GPT 능력 100% 활용 꿀팁 요약 (0) | 2025.03.29 |