생성형 AI시대에 금융이 갖춰야 할 마인드셋

https://ai-mindset-1vs3ed8.gamma.site/

생성형 AI 시대에 금융이 갖춰야 할 마인드셋

 

생성형 AI시대에 금융이 갖춰야 할 마인드셋

■ RC🫂introduce✨삼성화재©️,삼성생명©️,삼성카드©️,삼성자동차보험©️ ✨삼성화재 RC(•̀.̫•́ 보험설계사) 대모집 안내 소개 💝보험 설계 상담👨🏻‍🔬김성한📲010 5800 2008 📬이메일:04mailer@samsungfire.com

생성형 AI 시대 금융이 갖춰야 될 마인드 이라는 주제로 말씀을 드릴 거고요 마인드 셋으로 제가 정한 이유는 지금 생성형 AI 관련해서 다양한 금융 사들 그다음에 금융 기관에서 도입을 많이 검토 중에 있습니다 그래서 저희가 진행한 어떤 사례에서 레슨런드 그런 것들을 좀 공유를 해 드리고자 합니다 그래서 진행은 금융 하면은 뭐 다 DT DX 다 얘기를 하죠 그게 생성형 AI 시대가 돼도 여전히이 부분은 저희가 챙겨할 부분입니다 그래서 DT DX 대한 얘기를 조금 드리면서 저희가 가진 는 기회 그리고 거기서 나오는 시사점 그리고 저희가 어떻게 도입 방향을 잡을 거고 저희가 실제 어떤 과정을 거쳐서 지금 하고 있는지에 대해서 조금 말씀을 드리겠습니다 금융에 이제 dxl 얘기를 드리면 뭐 다 아시는 내용이죠 DX 하는 것은 어떤 고객의 새로운 가치들을 디지털 기술을 충분히 이용해서 한다 그래서 2023년도 그 DT 일곱 가지 동인에 대한 부분입니다 거기를 보시면은 새로운 비즈니 모델이 있어야 된다 고객 경험을 향상해야 된다 it 인프라가 현대화 되고 그다음에 운영 효율화가 있어야 되고 직원 스킬을 업그레이드하고 그다음에 외부 파트너의 어떤 협업 그다음에 데이터 기반의 의사 결정을 해야 된다는 내용이 있고요이 내용을 지금 저 현재 그 제너러티브 AI 생성형 AI 특징에 그대로 대입을 하면 아 생성형 AI 이런 것들을 할 수 있겠구나라는 생각을 하게 됩니다 그래서 왜 그런 생각을 할 수 있는지를 말씀을 드리겠습니다 그래서 그 DT 중요한 부분 들은 이런 거죠 가장 처음 시작점은 데이터가 중요하다 그리고 그 데이터 안에서 저희가 어떤 인사이트를 얻고 거기서 새로운 밸류를 찾아냅니다이 과정의 여정에서 제너레이티브 AI 할 수 있는 역할들이 많다라고 생각을 합니다 금융의 패러다임 그 중심에는 당연히 데이터가 있고요 AI 있습니다 그리고 제너레이티브 AI도 데이터가 상당히 중요합니다 어떻게 보면 과거에 저희가 빅 데이터라고 얘기했던 그 과거 시대보다 데이터의 중요성이 더 중요해졌습니다 양적으로도 중요해졌고 질적으로도 중요해졌습니다 그러면 현재 저희가 작년 11월 30일 날 채치 피티가 나온 이후 거기에 대한 엄청난 기대치를 가지고 이제 4분기를 향해 가고 있습니다 저희가 가졌던 어떤 하이프 기대 치들이 있었고요 지금 현재 현실이 어떤지를 좀 보겠습니다 처음에 저희가 딱 나왔을 때 정말로 슈퍼 휴먼이 나오는게 아니냐라고 다들 생각을 했었고요 그러고 나서 저희가 이제 얘기를 듣기 시작하죠 뭐 LM이라는게 이때 의 생성형 AI 뭐 이런 얘기들을 저희가 용어를 이제 막 알기 시작했습니다 그러고 나서 들리는 얘기가 그 세종 대왕이 맥북 프로를 던진 사건을 예시로 할루시네이션 대한 얘기를 하죠 그래서 정확한 답을 하지 못한다 그러 이게 정말 쓸모 없는 것이냐 그런 건 아닙니다 정확한 답을 찾아가는 과정이 필요하고 현재는이 채치 피트의 밸류에 집중을 하는 겁니다 정답을 말하고 못 하고에 대한 것들은 저희가 풀어야 할 해결할 숙제지도 이것만으로 저희가 충분히 어프로치 할 부분들이 많다라고 지금 현재 알고 있고 거기에 대한 다양한 유스케이스에 대한 나 검토이다 금융 사에서 지금 진행이 되고 있습니다 생성형 AI n 저희가 지금 텍스트로 많이 얘기를 했죠 채지 BT 채이니 많이 얘기를 했지만 사실은 그 인풋이 이미지가 될 수도 있고 그러니까 만들어내는 것들이 생성해내는 것들이 이미지일 수도 있고 영상일 수도 그 다 있습니다 저희가 채 GPT 그다음에 GPT 4라는 얘기를 들었고 최근에는 GPT 4라고 얘기를 하죠 이제는 텍스트가 인풋으로 들어가는게 아니라 이미지 자체가 텍스트 학습 아 이미지 자체가 학습 데이터 들어갈 수 있다라고 하는데요 여기에 큰 것들이 뭐가 있냐 기본적으로 저 모델 얘기를 많이 하잖아요 저희가 오픈 AI 모델 얘기 그다음 메타의 모델 그다음에 구글의 모델 얘기를 많이 하는데 사이즈가 모델의 사이즈가 클수록 성능이 좋은 거는 확실합니다 다만 저희가 항상 roi 얘기하죠 성능이 좋지만 우리가 그 성능을 얻기 위해서 사실은 우리가 필요한 것은 100분의 10밖에 안 되는데 저희가 100을 투자할 필요는 없으니까요 그래서 모델 사이즈가 크면 좋을수록 클수록 좋다라는 건 얘기가 나왔고 다만 아 그러면은 우리가 좀 집중적으로 필요한 부분을 집중해야겠다고 해서 버티컬이란 얘기가 나오기 시작했고 경량화하는 얘기도 나오기 시작했고 스몰 l&m이란 얘기도 나오기 시작합니다 그래서 스몰 llm 보면은 앞에는 스몰이 옆에는 바로 라지요 그래서 아니 뭔 LM 스몰이 아니라는 쉽지만 그래서이 L이 라지가 아니라 러블리가 아니냐 모두가 지금 l&m 얘기만 하고 있거든요 그 정도로 저희가 얘를 가지고 앞으로 활용할 수 있는 분야가 상당히 많을 거라고 지금 생각하고 있는 상태입니다 그리고이 llm 지금 초고대 AI 생성형 AI 얘기할수록 데이터는 더 중요해졌다 데이터는 더 중요해졌다 작은 데이 좋은 데이터를 넣어서 작은 모델이라도 좋은 성과를내는 사례들이 나오기 시작했으니까요 그래서 그 데이터에 양과 품질 간의 그다음에 모델 크기 간의 상관 관계가 있다라는 거 정도가 지금 알려져 있는 상태입니다 그리고 최근에 이제 GPT 4가 나왔죠 이게 말하는 건 뭐냐면요 저희 사람들이 그러잖아요 보고 듣고 말하고 하면서 저희가 뭔가 답을 하기도 하고 하죠 멀티 모델이라고 얘기하는 것들이 실제 인공지능에서 정말 저희가 사람처럼 에이전트라는 그런 얘기들이 이제는 할 만한 때가 됐다라고 기술적으로 됐다라고 얘기를 하는 것입니다 합성 데이터라는 거는 저희가 이런 겁니다이 합성 데이터를 언급하는 이유는 저는 딱 하난데요 윤리에 대한 부분 때문입니다이 합성 데이터는 어떤 특정 모델에 들어가서 나온 것들을 합성 데이터라고 합니다 우리가 보통 리얼 데이터라고 하는 건 사람이 만들어내는 데이터를 말하고 합성 데이터는 어떤 모델을 거쳐서 나오는 것들이 모델을 거쳐서 나오는 것들이 2030년이 되면 거의 사람이 만들어낸 거보다 이제는 기계가 AI 만들어내는 데이터들이 훨씬 많을 거라고 생각을 하고 있거든요 그러기 때문에 AI 윤리가 중요하고 금융에서 어느 분야보다도 신뢰성과 건전성과이 모든 것을 따지는 금융 분야에서는이 윤리가 중요하고 그렇기 때문에이 생성형 AI 성능이 좋지만 우리가 잘 알고 잘 사용을 해야 된다는 겁니다 좋은 약도 잘못쓰면 독이 되잖아요 그래서 생성형 AI 그렇다라고 생각하시면 됩니다 그래서 GPT 이제는 뭐 메타버스 조금 다른 거 거 같습니다 사실 메타버스는 여러 가지 뭐 기기나 여러 가지 요소들이 함께 좀 같이 고도화가 돼야 성장을 하는데 생성형 AI 이거 한때 흘러가는 기 그 그냥 기술 아니야 유행 아니야라는 얘기가 많이 있었지만 이거는 시대적 흐름이다 생각하는게 지금 보편적으로 뭐 뭐라 그죠 그냥 사회적으로 그다음에 기술적으로 다 모든 분야에서 그렇게 얘기를 하고 있습니다 생성형 AI 생태계는이 장표를 많이 활용을 하는데요 그 이유는 하나입니다 저희가 금융사에서이 생성형 AI 쓰는 방법이 몇 가지가 있을까요 그냥 저희가 그냥 무조건 오픈 AI 뭐 저 GPT 가장 유명하니까 우리는 마이크로소프트 만 얘기를 해야 될까요 아니죠 어 화면이 화면이 아 나왔습니다 아닙니다 그래서 생성형 AI이 생태계를 알아야 되는 이유는 우리가 목적에 맞게 누군가 협업을 해야 되는지 알 수 있게 되기 때문이고요 제일 밑에 저희가 뭐 GPU 얘기 많이 하죠 반도체 이게 지금 서포트가 돼야 우리가 충분히 뭔가 큰 모델도 돌려보고 어떤 여건이 된다는 얘기도 합니다 그래서 맨밑에 반도체가 있고 그 위에 클라우드 사들 다양한 클라우드 사들이 있고 그 클라우드 사들이 모델을 가지고 있기도 하고 그 모델들을 담는 어떤 프레임워크가 되기도 합니다 그 위에 우리가 많이 알고 있는 AI 스타트업들 생성형 AI 활용하는 스타트업들이 존재합니다 그래서 저희가 그 뭐 마이크로소프트나 직접 모델에 우리 가 만약 그 내부 구성원들에 이런 것들을 핸들링할 수 있는 조직원들이 있다라고 하면은 마이크로소프트를 얘기도 해 볼 수 있고 그다음 뭐 메타 얘기를 해 볼 수도 있고 지금 네이버 네이버 하이퍼 클로브 x도 말해 볼 수 있고 그렇죠 그런데 우리가 원하는게 아주 데스가 있는게 아니라 일단은 좀 써 보겠다고 한다라고 한다면 또 AI 스타트업들 아고 그것들을 또 얘기를 풀어 갈 수도 있습니다 그래서 생성형 AI 어떤 밸류 체인은 이런 식으로 구성이 되어 있고요 그 생성형 AI 도입 다 좋다고 하는데 왜 지금 아직 우리는 그런 서비스를 제대로 볼 수 없느냐 그 이유는 여러 가지가 있는데 첫 번째로는 운영 비용에 대한 문제 그다음에 그 컴퓨팅 리소스도 똑같은 얘기입니다 그리고 다른 하나는 우리가 기존의 학습 데이터라고 우리가 거의 뭐 어떤 막 노동 노동을 노동 집약적인 어떤 뭐 데이터를 수집하고 정제하고 이런 과정과는 좀 다 또 다른 그런 학습 데이터가 필요하기 때문에이 학습 데이터 확보에 대한 부분이 문제가 될 수 있고요 또 하나는 지금 설명 가능성 금융은 특히 중요하죠 어떤 답을 GPT 그 GPT 표현을 쓰지 않고 생성형 AI 하겠습니다 생성형 AI 답변한 것에 대해서 그럼이 답변이 어떤 근거에서 어디서 찾아 왔는지에 대한 부분이 아직은 정확하게 없거든요 그러다 보니까 설명 가능성에 대한 부분이 충족이 잘 안 되는 부분 그다음에 정확성 할루시네이션이라고 저희가 표현을 하죠 정확한 얘는 마치 이것이 정답인 것처럼 얘기를 하지만 이게 정답이 아닌 경우가 많이 있는 겁니다 그래서 그런 문제점이 어 지금 뭔가 경고를 하듯이 지금 껌뻑껌뻑 거리는데 그래서 정확성에 대한 부분 설명 가능성에 대한 부분 또 하나는 데이터 주권에 대한 부분이 부분 왜 얘기를 하느냐는 뒤에서 또 설명을 드리겠습니다 그래서 금융은 그럼에도 불구하고 금융은 AI 과거부터 상당히 활발하게 활용해 왔습니다 그 다만 저희가 기술적인 것들을 강조를 하지 않다 보니까 많이 알려져 있지 않지만 이미 많이 쓰고 있었고 금융사들이 그걸 제일 먼저 잘 아는 거 같아요 그래서 글로벌 하게도 금융사들이 생성형 AI 도입해서 쓰고 있습니다 쓰고 있는데 다만 아까 전에 말했던 문제점들 정확성에 대한 거 설명 가능성에 대한 부분 이런 부분들은 대고객 서비스를 바로 오픈했을 때 저희가 핸들링이 불가능합니다 그렇기 때문에 어떻게 한다 내부 안쪽에 안쪽에 우리 직원들을 위해서 우리 직원들 옆에 어떤 보조적인 역할로 먼저 해보고 있는 상황입니다 그렇게 경험을 쌓아서 인제 그것들이 노하우가 쌓이면 대고객 오피 오픈을 어떤 형태로 해 볼 수 있을지를 좀 고민해 볼 수 있을 겁니다 아까 전에 데이터 주권에 대한 얘기는 왜 했냐면요 gpt4 같은 경우는 실제 최 GPT GPT API 통해서 나온 그 사용자 정보를 통해서 만들어졌습니다 그런 내용들이 논문에 명시가 되어 있고요 그렇기 때문에 저희가이 부분에 대한 불편한 임 있는 겁니다 지금은 우리가 어떤 뭐 사용을 한다고 하고 엔터프라이즈으로 보호 를 해준다고 하지만 이런 경험을 우리가 이미 했기 때문에 여기에 대한 불안감이 조금 있다라고 할 수 있고요 금융사 같은 경우는 저희가 그런 서비스들이 다 서울 리전 한국에 다 들어와 있어야 하죠 그래야지 저희는 법적으로 쓸 수 있습니다 그렇기 때문에 그런 부분들이 아직 국내 리전들로 아직 다 들어오지 않았기 때문에 저희가 실제 서비스로 만나 보기에는 그게 특히 내부 데이터를 활용하는 경우는 아직은 어렵다 그런 빅테크의 어떤 모델들이 다 들어와 줘야 저희가 실제서 서비스에 적용해 볼 수 있다라고 할 수 있습니다 금융 관련해 가지고 생성형 AI 주요 쟁점은 이렇습니다 일단 정확하고 신뢰할 수 있는 답변에 대한 문제 계속 말씀드렸고요 그리고 윤리적인 법적인 문제에 대해서 아직 교통 정리가 다 되어 있는 것은 아닙니다 금융 관련 법률들 이제 지금 어떤 케이스나 어떤 구체적인 것들을 만들어 내고 있는 단계기 때문에 여기에 대한 문제들이 있을 거라고 저희가 조금 걱정을 하는 부분들이 있죠 그리고이 빅테크는 어떤 모델이나 생성형 AI 지금 중소 중견 그다음에 스타트업들 아지 스몰 l&m을 많이 하고 있지만서도 여전히 어떤 공정한 경쟁에 대한 부분 뭐 저희가 뭐 빅테크에 많이 쏠려 있는 그런 것들도 많이 얘기를 하고 있지 않습니까 그래서 그런 거에 대한 부분에 우려가 있다라는 거 그리고 그 규제와 그다음에 거버넌스에 대한 것들이 이제 좀 챙겨지지 시작했습니다 거버넌스는 어떻게 보면은 저희의 뭐 매출이나 이런 거라고 연관되어 있다기보다는 어떤 백 백단에서 하는 운영적인 부분이잖아요 그게 과거 거의 AI 그래도 뭔가 영향 범위가 그렇게 넓진 않았다고 본다면 상대적으로 생성형 AI 할 수 있는 것도 많다 보니까 그 영향력의 범위가 넓다 그렇기 때문에 그 AI 거버넌스에 대한 부분들을 본격적으로 챙겨할 때가 됐다라고 볼 수 있습니다 생성용 AI 시사점을 얘기하면 기술적으로는 어느 정도 올라왔다 지금 내년도 2024년도 전망을 얘기를 하자면 아마 금융권은 이제 더 이상 기술 모델 얘기보다는 실제 비즈 얘기를 이제 하기 시작할 거라고 생각을 합니다 그래서 기술에 대한 장벽들 그런 것들은 이미 고도화가 된 상태기 때문에 우리는 우리한테 적합한 우리의 경쟁력을 갖출 수 있는 무엇을 할 건지에 대한 결정을 해야 된다라는 거고요 그리고 실제 데이터가 중요한 시대가 됐다라고 얘기를 할 수 있고요 그리고이 기존에 우리가 그 옵스 그 기존에 해왔던 그 그 원활하게 뭔가 그 AI 서비스가 흘러가게 할 수 있다할 수 있도록 했던 부분에 대해서 생성형 AI 에 들어가야 되는 어떤 그 데이터 학습 데이터도 틀리고 관리 포인트가 좀 더 달라졌다고 볼 수 있기 때문에 거기에 대한 것도 재점검이 필요하다 그래서 얘기할 수 있는 거는 차별적인 서비스에 대한 고민이 필요하고 roi 그래도 우리가 구체적으로 정량할 수 있는 그런 것들을 찾아야 되고 그다음에 경험의 내재화가 필요하다 모델은 계속 변하고 있고요 그러기 때문에 뭐 어떤 모델에 뭐 딱 맞춰 가지고 한 달하기 보다는 우리가 그 튜닝도 어떤 식으로 할 건지 이런 것들 다 양한 경험을 해보는게 중요하다라고 생각을 합니다 상향 평준화된 기준이라고 저 기술이라고 얘기를 했고요 그래서 AI 민주화 그다음에 제너레이티브 AI n 이제 서비스로 우리가 API 당겨서 쓰는 것도 얘기를 하는데 또 다른 관점도 있습니다 우리가 기존에 쓰던 많은 소프트웨어 그다음에 그런 서비스에 AI 그 제너레이티브 AI 일종의 컴포넌트 럼 들어가서 요소 기술로 들어가서 활용될 수도 있다라는 거고요 여기에서 중요하게 생각하는 거는 뭔가 특화된 데이터가 더 부어진다 측면에서 그리고 뭐 특허나 약간 법률적인거나 여러 가지가 좀 거기에 맞춰서 돼야 된다는 부분에서 요런 표현도 하고 있습니다 제티브 AI 어 컴포넌트로 요렇게도 많이 표현을 하고 있습니다 초고대는 비용이 많이 든다는 얘기는 드렸습니다 그래서 이거 할 때 금융에서 풀어야 할 숙제 우선은 저희도 그렇지만 금융의 데이터 참 많죠 그런데 막상 뚜껑을 열고 생성형 AI 관련해서 도입 해보려고 보면 뭔가 만들어야 되는 데이터들이 상당히 많습니다 그래서 데이터 트레이닝에 대한 문제가 있고요 그리고 실시간으로 뭔가 데이터가 계속 들어왔을 때 이것들을 어떻게 즉각적으로 반영해 줄지에 대한 부분 최신성 대한 부분도 고민을 해야 되죠 저희는 과거로 한번 데이터 부어진 걸로 거기서 끄집어내는 그런 작업으로 하는게 아니라 금융은 실시자 각각 변합니다 새로운 상품이 나오고 외부 환경이 변합니다 그런 것들이 계속 반영될 수 있는 그런 환경을 만들어 줘야 된다는 부분이 있고요 그래서 서빙하고 배포에 대한 부분에 대한 저희가 숙제가 있다라고 생각을 하고요 금융에서의 추론 과거에 저희가 질문 답변했던 거보다는 훨씬 저희는 심도 있는 질문에 대한 답변들을 찾아낼 수 있습니다 다만 거짓말을 할 지연정 답은 찾아내죠 그래서 하지만이 금융이 가지는 어떤 건전성 신뢰성에 대한 부분이 있기 때문에 답은 해내고 있지만 상당히 어렵다라는 거죠 이걸 실제 서비스로 만 된다는 거는 테스트는 해보고는 해 볼 수 있지만 서비스로 만들어지는 거는 또 다른 문제다라는 거 그리고 기존에 우리 내부의 직원들이 있죠 직원들이이 제너레이티브 AI 들어간 소프트웨어가 됐던 아니면 어떤 API 당겨 쓰는 어떤 그 프롬프트를 하든 거기에 대한 새로운 스킬에 대한 것들을 배우는 과정이 또 필요할 수 있습니다 그래서 그런 교육에 대한 부분들도 챙겨 져야 한다라고 할 수 있습니다 생성용 AI 그래서 어떤 모델 그런 거에 집중하기보다는 저희가 외부에 어떤 모델 어떤 데이터를 가져오던 내부에 어떤 데이터를 당기던 다른 모델에 좋은 그런 그 모델들을 당겨 오든 그것들을 통해 가지고 그 생성형 AI 잘한다는 거 있죠 뭐 요약 잘합니다 리포트 초안 잘 작성합니다 여러 가지들이 있죠 그것들을 안정성과 어떤 윤리와 이런 것들을 챙겨가면서 아마 저희가 일하는 방식들이 바꿔질 거라고 얘기를 하죠 직업이 있고 없고에 대한 얘기도 많이 하지만 우리가 일하는 방식이 바뀔 거라는 거에 대해서는 확실할 것 같습니다 에 대한 부분들이 그래서 전략과 전술들 많이 달라질거다 이런 변화가 있을 거라고 얘기를 할 수 있고요 뱅킹이나 금융에서 생성형 AI 시장 규모는 말할 필요가 없습니다 이미 AI 자체가 급속도로 지금 어떤 활용이나 시장은 커지고 있고요 그 부분에서도 지금 생성형 AI 기술로 넘어왔기 때문에 기존의 AI 또 생성형 AI 전체로 또 볼 수도 있기도 하할 것 같습니다 그래서 기술적으로 보면은 이제 자연어 처리에 대한 부분 아무래도 금융에서 기존의 정형 데이터뿐만 아니라 비정형 데이 데이터를 통해서 저희가 얻을 수 있는 인사이트와 그 변화를 감지할 수 있는 것들이 상당히 많기 때문에 자연어 처리에 대한 기술에 대한 부분들의 니즈는 계속 증가할거다 그리고 다른 하나는 이제 그거죠 저 이상 거래 탐지하는 부분이 부분에 대한 활용이 상당히 많이 될 거라고 저희는 예상을 하고 있습니다 그 차기 성장 동력의 그 어떤 일환으로 생성형 AI 많이 얘기를 합니다 그래서 영간 매출에 2.8에서 4.7% 어떤 생상성 증가가 있을 거라고 맥켄지는 얘기를 하고 있고요 2억에서 3,400억까지 정도의 어떤 가치를 더 만들어 낼 거라고 얘기를 합니다 금융에서 쓰는 이유는 그렇죠 자동화에서 효율성을 극대화하고 맞춤 서비스를 하고 고객에 그게 기업이 됐던 개인이 됐던 고객 자산을 관리를 해 주고 저희는 불확실성 위험성을 최소하는 어떤 예측치를 가져가기 위해서 AI 도입해서 쓰고 거기에서 생성형 AI 기존에 가지고 있던 저희 AI 어떤 능력 보다는 훨씬 월등이 높다라는 것은 확실합니다 금융에서의 생성형 AI 활용 사례를 많이 활용될 수 있다라고 보는 부분 아직은 좀 이르다고 생각하는 부분에 대한 것들을 찾아온 겁니다 그래서 뭐 보면은 기본적으로 개인화된 마케팅이나 경험 그다음에 프로세스 자동화 사기방지 그런 요런 부분에 대해서는 그래 지금부터 한번 해봄직 하다라고 얘기를 하고 있고 규정 주수나 의사 결정이나 결제 시스템을 보완한다 그가 이런 부분에 대해서는 아직은 좀 시기적으로 이다라고 얼리 스테이지라고 얘기를 하고 있습니다 KB 국민 은행에서도 이제 금융에 대한 부분에서 이제 특화에 대한 부분들을 상당히 중요하게 생각을 하고 있고요 KB 스타는 많이 언급을 해서 넘어가고 그다음에 저희 자체적으로는 AI 찐으로 열심히 하고 있습니다 그래서 실제 언어 자연어 처리에 대한 분뿐만 아니라 그다음에 모델 만드는 부분 그다음에 파운데이션 모델 저희가 초고대 AI 하는 부분까지 폭넓게 지금 검토를 하고 있고요 그 AI a 에이전트에 대한 얘기를 잠깐 또 드릴 건데요 넘어가겠습니다 그 금융 쪽에서 AI 에이전트 오토 GPT 얘기를 하는데 오토 GPT 이런 겁니다 이런 실험을 했대요 스탠포드 대학교에서 여러 에이전트를 만들어 놓고 성격하고지 직업을 부여 했더니 자기네들끼리 사귀고 파티하고 그랬다는 거죠 여기서 얻을 수 있는 시사점은 뭐냐면요 금융에서 현재 AI 활용하는 어떤 부분적인 기능에 대해서 부분적으로 쓰고 있습니다 확실히 보조하는 역할로 쓰고 있고요 그 그런데 아 이에 그러면은 A2 제의 어떤 업무 완결성 다양한 에이전트를 통해서 왔다 갔다 하면 살 수 있지 않을까라는 생각을 해 볼 수 있다라는 거죠 아직 먼 길이지만 지금 뭐 앤드류 응이 그 AI 석학들이 1인 1비서 시대 1인 1 AI 비서 시대가 곧 올 거라고 얘기를 하는 것은 어떤 이런 기술 속에서도 어떤 기인하는게 아닌가 생각합니다 그 버티컬 커스텀 lml 만드는 과정들은 사실은 다양한 어프로치가 가능합니다 우리가 프롬프트 엔지니어링으로 얘기하는 것뿐만 아니라 라그라고스 얘기도 하고 있죠 그 방법은 정말로 당연하고요 유스케이스에 따라 그런 것들을 다양하게 선택해 볼 수 있니다 그래서 뭐 저희가 생각하는 그냥 모델을 뭐 API 당겨서 뭐 쓰고 뭐 프롬 푸팅 하고 딱 그런 케이스만 있는게 아니라 저희가 어프로치 해 볼 수 있는 방법들은 상당히 많다라고 할 수 있고요 이거는 플레이북 있데 저희가 어떤 모델을 선택하고 그 모델 가도 할 수 있는 어떤 테스크들이 뭔지를 좀 생각을 해보고 그다음에 데이터 준비를 하고 지금이 생성력 모델에 대한 데이터는 준비가 전혀 안 돼 있을 겁니다 그래서 그 준비를 하고 그다음에 어떤 방식으로 파인 튜닝을 할 건지의 전략을 세우고 그다음에 그것들을 모델을 파인튜닝 해 보고 평가해 보고 이걸 반복하면서 그것들을 궁극적으로 어떤 서비스에 저희는 반영하게 될 겁니다 KB 지금 이런 것들을 사실은 이렇게 기술적인 것들 어떻게 보면은 기존의 기술과는 달기 현업에 되게 가까이 있는 기술 술이 생성형 AI 있니다 그러다 보니까 그 현업에 대한 이해도를 높이는게 상당히 중요했고 그래서 저희는 별도로 KB GPT 어떤 데모 사이트를 만들어서 현업에서 어떤 것들을 할 수 있는지에 대한 이해도를 높이는 과정을 거쳤습니다 그게 상당히 중요하다고 생각을 하고 있고요 그래서 금융 쪽에서 저희가 얘기하는 어떤 정확도에 대한 문제 설명 가능성에 대한 문제에 대해서도 다양한 어프로치 그이 있습니다 기존에 이미 가지고 있는 펑션 시스템과 그다음에 레그라 얘기하는 기존의 문서에서 찾아서 어떤 활용하는 부분 요런 어프로치 그이 대부분의 지금 회사에서 진행되고 있다고 보시면 되고요 KB 같은 경우는 뭐 리더 보드라는 얘기 많이 들어보셨죠가 모델에 대한 어떤 평가를 하는 건데요 그 모델에 대한 것들을 KB 금융 자체 내에서도 금융 데이터를 통해서 저희도 줄을 세워 놓고 있습니다 그래서 어떤 모델이 바뀔 때마다 어떻게 달라진지 저희들은 계속 살펴보고 있는 중입니다 금융 분야에선 제가 거버넌스 중요하다고 말씀드렸죠 생성형 AI 영양 범위가 넓고 기존 기존에 우리가 그냥 말로만 하던 AI 거버넌스가 챙겨져 된다 왜냐 이게 정량적으로 매출 축소나 손실이 발생하고 있고요 정상적으로는 저희는 고객을 잃어버릴 수 있습니다 이런 문제 때문에 AI 거버넌스는 지금부터 차근히 준비를 해야 된다고 생각을 합니다 어떤 AI 생성형 AI 도입하기 위한 환경을 만들어 놓는 거죠 이거에 대한 준비가 필요하고요 KB n KB 자체의 AI 거버넌스 체계를 지금 만들어 가고 있습니다 작년에 최초로 AI 윤리 기준을 저희가 선포를 했고요 거기에 따른 AI 거버넌스 체계를 만들고 있고 각각에 대해서 저희가 챙겨 부분들을 내부적으로 챙기고 있는 상태입니다 요거는 넘어가겠습니다 그래서 금융 AI 저희가 마인드셋 제가 주제가 마인드셋이 있습니다 금융이 잘되려면 우선은 데이터 기반으로 생각하는 것들 그다음에 디지털 우선 사고 방식이란 거는 툴을 활용하는 걸 얘기합니다 그다음에 AI 대한 이해도를 비슷하게 저희가 다 같이 가지고 있어야 돼요 같은 눈높이로 보고 있어야만 저희가 하고 싶은 것들을 성공적으로 할 수 있다고 생각을 합니다요 같은 얘기예요 그래서 생성형 AI 도입을함에 있어서는 하여튼 표준화된 인공지능 도구을 사용하는 것이 훨씬 효과적이고 그다음에 전사 레벨의 전략을 가졌을 때 훨씬 효과적으로 저희가 도입할 수 있고 하나는 저희의 맞춤 어떤 맞춤형을 했었을 때 훨씬 그 효과가 크다라고 저희가 보고 있습니다 그래서 그 미래금융의 설계에 대한 얘기를 잠깐 드리면 뭐 결국은 특정 업무가 아니라 전사적으로 보고이 생성형 AI 한번 살펴보시는게 좋다라고 판단이 되고요 금융 분야는 어쨌거나 신뢰성에 대한 부분이 상당히 중요하기 때문에이 신뢰성을 우리가 어떻게 갖춰 갈 수 있을지 어떻게 방어할 수 있을지에 대한 고민을 하셔야 된다라는 부분 그다음에 관련된 감독 규제 그다음에 법에 대한 것들도 저희가 상시 저희가 계속 챙겨 봐야 한다는 부분이 있습니다 이게 마지막 장편인데 금융 전망인데 그 금융 서비스에서 지금 뭐 아까 전에 말씀 자연어 처리나 포트폴리오 최적화나 사기 탐재 많이 사용을 하고 있고요 이건 어떻게 보면은 의사 결정 저희 기존에 rpa 뭐 하이퍼라운지 보여지고요 여기에 대한 투자는 줄어들진 않을 거라고 생각합니다 계속 늘어날 거라고 생각을 하게 될 거고요 그리고 이것은 어떻게 보면은 어떤 AI 스택 전체를 놓고 보고 이제 활용하는 것이 훨씬 효과적이다 아까 처음에 말씀드렸던 그 부분이 있고요 그리고 아직은 초기 단계고 사람을 보조하는 역할로 되겠지만 여기에 대한 것들은 저희가 AI 거버넌스는 어떤 그런 여러 보안 체계를 만들면서 좀 더 폭넓게 활용하게 될 것이다라고 말할 수 있을 것 같습니다네 여기까지고요 AI 그 생성형 AI 통해서 그 내년도 2024년도 금융을 좀 생각을 해 보면 하여튼 활용은 훨씬 확대될 것 같고요 기술보다는 이제 실제적인 활용 사례들이 많이 나오지 않을까 생각을 합니다네 감사 감사합니다

생성형 AI 시대의 금융 마인드셋

• 주제 소개: 생성형 AI 시대에 금융이 갖춰야 할 마인드셋에 대해 논의할 것임.
• 금융 기관의 도입 검토: 다양한 금융사와 기관에서 생성형 AI 도입을 검토 중임.
• 사례 공유: 진행한 사례와 레슨을 공유할 예정임.
• 디지털 전환(DT)과 디지털 혁신(DX): 생성형 AI 시대에도 DT와 DX는 여전히 중요한 요소임.

디지털 전환과 AI의 중요성

• DX의 정의: DX는 고객의 새로운 가치를 디지털 기술을 통해 창출하는 과정임.
• 2023년 DT 동인:
  1. 새로운 비즈니스 모델 필요
  2. 고객 경험 향상
  3. IT 인프라 현대화
  4. 운영 효율화
  5. 직원 스킬 업그레이드
  6. 외부 파트너 협업
  7. 데이터 기반 의사 결정
• 생성형 AI의 적용 가능성: DT의 중요한 요소들을 생성형 AI에 대입할 수 있음.

데이터의 중요성과 AI의 역할

• 데이터의 중심성: 데이터는 금융의 패러다임에서 중심적인 역할을 함.
• AI의 역할: AI는 데이터에서 인사이트를 얻고 새로운 가치를 창출하는 데 기여함.
• 데이터의 양과 질: 과거의 빅 데이터 시대보다 데이터의 양과 질이 더욱 중요해짐.
• 제너레이티브 AI의 가능성: 제너레이티브 AI는 데이터의 중요성을 더욱 부각시키고 있음.

생성형 AI의 기대와 현실

• 하이프 기대치: 채치 피티 출시 이후 기대치가 높아졌음.
• 초기 반응: 초기에는 생성형 AI가 슈퍼 휴먼을 만들어낼 것이라는 기대가 있었음.
• 정확성 문제: 생성형 AI의 정확한 답변을 찾는 과정이 필요함.
• 유스케이스 검토: 금융사에서 다양한 유스케이스를 검토하고 있음.

합성 데이터와 윤리적 고려사항

• 합성 데이터 정의: 합성 데이터는 특정 모델을 통해 생성된 데이터임.
• 윤리적 중요성: 금융 분야에서 신뢰성과 건전성이 중요하므로 윤리적 고려가 필수적임.
• AI의 위험성: 좋은 약도 잘못 사용하면 독이 될 수 있듯이, 생성형 AI도 신중하게 사용해야 함.
• 기계 생성 데이터의 증가: 2030년까지 기계가 생성하는 데이터가 사람의 데이터를 초과할 것으로 예상됨.

생성형 AI의 금융 분야 활용

• 도입의 어려움: 생성형 AI 도입이 지연되는 이유는 운영 비용과 컴퓨팅 리소스 문제임.
• 학습 데이터 확보: 새로운 학습 데이터 확보가 필요하며, 기존의 데이터 수집 방식과는 다름.
• 설명 가능성 문제: 금융 분야에서는 AI의 답변 근거를 명확히 해야 함.
• 정확성 문제: 생성형 AI의 답변이 항상 정확하지 않을 수 있음.

AI 거버넌스와 규제 문제

• 정확하고 신뢰할 수 있는 답변: 금융 분야에서 AI의 정확성과 신뢰성이 중요함.
• 법적 문제: AI의 윤리적, 법적 문제에 대한 정리가 필요함.
• 공정한 경쟁: 빅테크와 중소기업 간의 공정한 경쟁이 우려됨.
• AI 거버넌스 필요성: 생성형 AI의 영향력이 커짐에 따라 AI 거버넌스를 강화해야 함.

미래 금융의 방향성과 전략

• 기술적 발전: 기술이 고도화됨에 따라 비즈니스 모델에 대한 논의가 필요함.
• 데이터의 중요성: 데이터 관리와 학습 데이터의 차별화가 필요함.
• 차별적 서비스 고민: 금융 서비스의 차별성을 위해 고민해야 함.
• AI 민주화: AI가 다양한 서비스에 통합될 가능성이 높음.

AI의 민주화와 서비스 통합

• AI 민주화의 의미: AI 기술이 보편화되고 다양한 서비스에 통합될 것임.
• 기존 소프트웨어와의 통합: 기존 소프트웨어에 AI 요소 기술이 통합될 가능성이 있음.
• 특화된 데이터 필요성: 특화된 데이터가 AI의 성능을 높이는 데 기여할 것임.
• 법적 고려사항: AI 통합 시 법적 문제를 고려해야 함.

생성형 AI의 교육과 변화

• 직원 교육 필요성: 직원들이 새로운 AI 기술에 대한 교육이 필요함.
• 기술적 접근: 다양한 모델과 데이터 접근 방식을 고려해야 함.
• 서비스 반영 과정: 모델을 평가하고 반복적으로 개선하여 서비스에 반영해야 함.
• 현업 이해도 향상: 현업에서 AI 기술을 이해하고 활용하는 과정이 중요함.