[생각] xAI를 만든 한국 프롭테크 기업

스탯's avatar
Jan 31, 2024
[생각] xAI를 만든 한국 프롭테크 기업
 

xAI는 무엇일까?

  • xAI 개념: Explainable Ai
    • 해석 가능한 AI
  • 일론머스크의 xAI와 그록
  • 그록은 어떤 원리로 만들어져 있을까?
    • BERT
    • GPT
    • RLHF와 Fine Tuning
 

일론 머스크와 동일한 모델을 만든 한국의 프롭테크 기업

최근에 지인을 통해 일론 머스크의 xAI가 자신들이 만든 AI와 같은 원리라고 주장하는 한국의 프롭테크가 있다는 이야기를 들었다.
 
들었을 때 엄청나게 기대가 됐다. 과연 어떤 대단한 한국 회사가 세계 최고의 천재들을 모은 일론 머스크의 xAI와 같은 원리를 만들었을지 엄청나게 궁금했기 때문이다.
 
실제 이야기를 들어보니 사실과는 전혀 달랐다.
  • Explainable AI를 어떻게 개발했는가? 어떻게 수십 억개의 파라미터를 관리하고 그 학습 비용을 감당하는가? 제일 중요한 데이터는 어떻게 확보하고 필터링하는가?
  • ML/DL 모델을 만들기 전에 데이터와 통계 모델을 만들어서 데이터 셋을 만들고 이를 ML/DL 모델의 학습 데이터로 사용해서 ML/DL 모델을 만들었다고 말함.
  • 이게 바로 xAI와 같은 원리라고 함. xAI도 이런 식으로 만든 것이라고 주장.
 

팩트 체크

내부 인원은 모두 출신이 개발자, 공간기반 데이터를 다루지만 AI를 다루는 전공자도 희박하고 도메인은 관련 협력 기관에서 협의를 통해 쌓아간다고 함.
  • 데이터 분석과 도메인 결합을 통해 인사이트를 도출하는 게 아니라, 관련 업계 사람들의 경험에 오버피팅된 계산기를 만들어 그럴듯한 분석 결과를 보고서로 제출하는 것에서 어떤 큰 차이가 있는 것인지 궁금함.
 
대표가 AI학과 교수라고 주장
  • 회사의 재무제표도 적자가 나고 있는 상황이며 실제 AI로 돈을 버는 게 전무한 회사가 아직 현업의 상황을 모르고 있는 대학생들에게 강의를 하고 돈을 받는 게 어떤 상황인 건지 아이러니.
  • 실제 교수 아님. 시간 강사.
 

한국의 R&D 예산이 삭감되는 이유

연구 R&D 예산이 대폭 삭감됐다는 안타까운 뉴스가 최근에 나옴. 최근 불경기로 인해 투자자들의 투자 심리도 대폭 위축됨.
 
근데 이런 방향성에 너무 공감되는 이유? 기술력이 없으면서 기술력이 있다고 부풀리는 사람들이 너무 많기 때문이라고 생각됨.
 
정부탓, 시장탓 등이 판을 침 (옆의 기업이 자신들의 기술을 뺏어갔다든지, 정부가 필요성에 공감을 못한다든지)
 
그러기 전에 기술력부터 확보하시는 게 먼저가 아닐까? 실제 기술력 있고 연구 분야에서 두각을 나타내는 분들은 이런 분들의 과장과 피해로 인해 외국의 좋은 인프라로 연구를 하러 떠나고 있는 상황.
 

제일 신경쓰이는 부분

사업을 하려면 고객사와 투자자에게 자신들이 무엇을 하려는 것인지 이해하기 쉽게 보여주고 설명해야 하는 것은 정말로 이해하고 공감한다. 그래야 영업도 따고 투자금도 확보할 수 있을 테니까.
 
그러나 데이터와 모델의 이해도가 낮은 상황에서 실무자에게 억지 주장을 하는 것은 서로에게 좋은 게 없지 않을까?
 
가령 이번의 xAI 모델 뿐만 아니라 많은 변수를 집어넣으면 설명력이 높아진다는 주장이라던가,
measurement error가 심하던가 변수간의 correlation이 높은 상황은 고려하지 않고 멋있어 보이는 최신 모델을 적용하면 되는 거 아니냐고 주장을 하는 거라던가 말이다.
 
그런 주장과 억지가 난무하는 회사에 과연 인재가 가려고 할까?
 
지금처럼 시장 상황이 좋지 않을 때,
실력과 내실이 부족한 상황에서 사업의 영역과 실무의 영역을 구분짓지 않고 다 할 수 있다고 시도하면 공부 안 하고 시험을 치는 것과 다를 것이 없다.
결과적으로 낮은 성적을 받거나 억지로 좋은 성적을 받기 위해서 컨닝처럼 결과가 좋아보이도록 GridSearch만 엄청 하는 편법을 저지르게 되는 것이 아닐까?
 
 
Share article

스탯블로그 - 데이터 사이언스