KRICT 한국화학연구원

AI의 현란한 말솜씨는 문장에 포함된 단어에 대한 개별적 지식에 통계적 방법론을 적용해서 구축하는 ‘대형 언어모델’(LLM, large language model)에서 비롯된다. 생성형 AI는 단어를 꿰어맞춰서 학습한 패턴에 맞는 확률론적으로 그럴듯한 문장을 만들어 내는 과정에서 함부로 넘보기 어려운 화려하고 현란한 말솜씨를 자랑하게 된다.

그런데 어떤 개념을 언어적으로 ‘설명’하는 능력과 그 개념을 정확하게 이해하고 실제로 ‘사용’하는 능력은 다른 것이다. 메타의 얀 르쿤과 AI 철학자 제이콥 브라우닝에 따르면 그렇다. 언어 모델의 ‘얄팍한 이해력’을 인간이 세상을 살아가면서 다른 사람이나 문화와 상호교류하면서 습득하는 ‘깊은 이해력’과 혼동해서는 안 된다. 생성형 AI는 ‘논리 체계’를 철저하게 무시한 ‘확률론적 언어 조합 프로그램’에 지나지 않는 것이라는 가혹한 평가도 있다. 자칫하면 1996년 뉴욕대학의 수리물리학자 앨런 소칼이 촉발시킨 소모적인 ‘과학전쟁’이 일상화될 수도 있는 것이다.

AI의 딥러닝에 사용하는 데이터의 ‘양’과 ‘질’이 언제나 부족할 수밖에 없는 것이 냉혹한 현실이다. 실제로 범용(汎用) 생성형 AI의 학습을 위해 무한히 많은 양의 좋은 데이터를 제공하는 일은 현실적으로 불가능하다. 결국 인간이 현실적으로 제공하는 데이터에 의존하는 생성형 AI에게 ‘환각’은 영원히 회피할 수 없는 숙명일 수밖에 없다.

결국 생성형 AI는 ‘참’(眞)과 ‘거짓’(僞)을 판별할 수도 없고, ‘선’(善)과 ‘악’(惡)도 구분할 수도 없다. 더욱이 생성형 AI에게 인간의 ‘창조성’이나 ‘자아’(自我)를 기대하기도 어렵다. ？스스로 창의적인 질문을 제기하지 못하는 생성형 AI에게는 아인슈타인처럼 자연에 숨겨져 있는 새로운 과학적 사실을 밝혀내는 일이나, 셰익스피어와 같은 창조적인 문학 작품을 기대할 수 없다. 물론 살바도르 달리와 같은 독창적인 화풍도 기대할 수 없다. 오히려 생성형 AI는 낮은 수준의 ‘표절기’에 지나지 않는다는 언어학자 노엄 촘스키의 경고를 주목할 필요가 있다.

생성형 AI의 ‘의도적’인 거짓말도 경계해야 한다는 주장도 있다. 미국 MIT의 연구진에 따르면, 메타(페이스북)가 개발한 고난도 전략게임인 키케로(Cicero)가 상대를 배신하고, 허세를 부리고, 의도적으로 속임수를 쓴 사례가 확인되었다는 것이다. 정부가 AI의 속임수 가능성을 규제하는 ‘AI 안전법’을 서둘러 마련해야 한다는 것이 주장도 제기되고 있다.

Chapter 03

결국 창조·윤리는 AI 사용자의 몫

생성형 AI가 과학계의 새로운 악동으로 등장하고 있다. AI가 만든 엉터리 문장과 그림이 학술 논문에 은밀하게 사용되고 있다. 생성형 AI가 과학 연구에서 철저하게 경계하는 위조(fabrication)·변조(falsification)·표절(plagiarism)의 가장 현실적인 수단으로 활용되고 있다는 것이다. 학술지의 편집 과정에서 그런 사실을 확인하는 일은 현실적으로 불가능하다.

생성형 AI에 의한 학술 논문의 오염이 얼마나 심각한지는 아무도 알지 못한다. 다만 전통적으로 과학에서 사용되지 않았던 단어의 사용이 갑자기 늘어나는 등의 사실로부터 AI를 사용한 것으로 추정되는 학술논문의 비중이 17.5%나 된다는 추정도 있다. 네이처의 분석에 따르면 2023년에 철회된 논문의 수가 1만 건을 넘었다. 한 해 사이에 5,380건에서 갑자기 2배로 늘어난 것이다.

사실 과학계가 생성형 AI의 등장을 마냥 반겼던 것은 아니다. 과학계의 대표적인 학술지인 ‘네이처’는 생성형 AI를 논문의 저자로 인정하지 않겠다고 분명하게 밝혔다. 생성형 AI를 사용하는 연구자는 논문에 그 사실을 명시하도록 요구하는 윤리 규정도 새로 만들기도 했다.

생성형 AI에게는 과학적 사실을 확인하고, 윤리적 가치를 판단하는 능력을 기대할 수 없다. ‘화려한 말솜씨’로 무장한 생성형 AI가 과학 연구의 현장을 어지럽게 만들 수 있는 연구실의 새로운 ‘악동’(惡童)으로 전락하는 일을 막아내는 책임은 온전하게 ‘인간’ 과학자의 몫이다. 연구의 결과를 분석하고, 논문을 작성하는 과정에서 생성형 AI 활용에 대해서는 구체적이고 분명한 교육과 지침이 필요？하다.