샘 올트먼 오픈AI 최고경영자(CEO) 축출을 주도했던 일리야 수츠케버 전 오픈AI 최고과학자가 오픈AI를 떠난 지 한달여 만에 인공지능(AI) 스타트업 '세이프 수퍼인텔리전스'를 설립했다.
세이프 수퍼인텔리전스는 사명에서 나타나듯 안전을 강조한다.
AI 제품이나 서비스 판매보다는 순수 연구 조직 내에서 안전하고 강력한 인공 지능 시스템을 만드는 것을 목표로 한다.
수츠케버는 블룸버그와 인터뷰에서 “안전한 초지능(superintelligence)이 회사의 첫 번째 제품이 될 것”이며 “크고 복잡한 제품을 개발하기 위해 경쟁해야 하는 외부 압력으로부터 완전히 격리될 것”이라고 말했다.
그는 이어 “안전한 초지능은 인류에게 큰 피해를 끼치지 않는 속성을 가져야 한다”고 덧붙였다.
이는 수츠케버 자신이 동의하고 지키려 했던 오픈AI의 초기 설립 목표와 일치한다.
그는 지난해 오픈AI 내부에 미래 AI 기술이 인류에 해를 끼치지 않도록 하는 것을 목표로 하는 슈퍼 얼라인먼트 팀을 만드는 데 도움을 주기도 했다.
블룸버그는 수츠케버가 추구하고자 하는 시스템의 능력은 보다 범용적일 것이라고 보도했다.
수츠케버는 “현재 시스템에서는 AI에 말을 걸고, 대화를 나누고, 대화가 끝나는 데 그친다”며 “거대언어모델(LLM)이 세이프 수퍼인텔리전스에서 중요한 역할을 할 것이지만 훨씬 더 강력한 것을 만드는 게 목표”라고 말했다.
세이프 수퍼인텔리전스는 '초지능'이라는 용어를 사용하는데, 이는 범용일반지능(AGI)을 추구하는 글로벌 빅테크와는 다른 시스템을 추구하고자 하는 것으로 분석된다.
업계에서는 이 회사가 만들고자 하는 것이 가능할지, 수익성이 있을지에 대해서는 확실하지 않다는 목소리가 나온다고 블룸버그는 전했다.
다만, 이 회사를 공동 설립한 수츠케버의 전 동료 다니엘 그로스는 “창립자들의 배경과 이 분야에 대한 큰 관심을 고려할 때 자본금을 조달하는 것은 큰 문제가 되지 않을 것”이라고 말했다.
수츠케버는 세이프 수퍼인텔리전스의 후원자는 누구인지, 후원금은 얼마인지 등을 공개하는 것을 거부했다.
현대인 기자 modernman@etnews.com
