하루종일...//AI-assistance paper에 대한 생각..

오늘 하루종일 한 일이라고 해봐야 서류 작업을 해서 센터에 메일을 보내고, 재무조사와 관련된 물건 번호를 조사하고, 이메일과 연락처 관련 메일들을 정리한 것이 대부분이었다. 그러고 나서 올해 4월쯤 작성했던 정리 노트를 조금씩 편집하고, 교재를 한 번 훑어본 뒤 보다 보기 좋게 강의 노트를 다듬다 보니 어느새 밤 9시가 다 되었다.

중간중간 쉬는 시간에는 프리프린트도 조금씩 살펴봤다. 그러다 요즘 논문들에 AI Usage Disclosure 같은 항목이 생기고 있다는 것을 다시 보게 됐다. 논문의 아이디어를 발전시키거나, 글을 수정하거나, 문장을 다듬는 과정에서 AI의 도움을 받았다는 내용을 밝히는 경우가 점점 많아지고 있는 것 같다.

사실 이런 항목이 없어도 요즘은 AI의 도움을 받아 작성된 것으로 보이는 논문들이 상당히 많아진 것 같다. 특히 전혀 다른 분야에서 넘어와 짧은 시간 안에 여러 논문을 만들어내는 경우를 보면, 나도 모르게 먼저 "혹시 AI를 사용한 것은 아닐까?"라는 의심부터 하게 된다.

물론 다른 분야의 지식을 AI의 도움을 받아 빠르게 공부하고, 이를 바탕으로 연구를 시작하는 것 자체가 잘못된 일은 아니다. 오히려 AI 덕분에 연구자가 새로운 분야에 접근하는 장벽이 크게 낮아진 것은 분명한 장점이다.

다만 문제는 결국 논문을 평가하는 과정에 있는 것 같다.

어떤 논문을 읽어보면 해당 분야의 내용을 제대로 이해하기 위해서는 상당한 시간이 필요할 것처럼 보인다. 참고해야 할 내용도 많고, 서술도 굉장히 많다. 그런데 막상 수식을 하나씩 살펴보면 비교적 단순한 계산을 길게 정리해 놓은 경우가 있고, 정작 중요한 물리적 의미나 논리적 연결은 지나치게 추상적인 표현으로 넘어가는 경우도 있다.

이런 논문들을 보다 보면 나 역시 조금씩 경계심이 생기는 것 같다.

물론 내가 지나치게 편협하게 보고 있는 것일 수도 있다. 나도 좀 더 flexible하고 유연한 사고를 가져야 할 텐데, 연구를 오래 하다 보니 새로운 분야의 연구를 바라볼 때 오히려 먼저 의심부터 하는 것은 아닌가 싶기도 하다.

AI를 활용하면 분명 다른 분야로 넘어가 새로운 연구를 하는 것이 훨씬 쉬워질 수 있다. 이전에는 몇 년씩 공부해야 접근할 수 있었던 분야의 기본적인 개념과 계산 방법을 AI의 도움을 받아 빠르게 파악할 수도 있고, 논문의 초안을 작성하거나 복잡한 내용을 정리하는 데에도 상당한 도움을 받을 수 있다.

그런데 아이러니한 점은, 이렇게 논문이 만들어지는 속도가 빨라질수록 논문을 검증하는 사람들의 부담은 오히려 커질 수 있다는 것이다.

AI를 이용해 논문을 어느 정도 걸러낸다고 하더라도 결국 마지막에는 사람이 논문의 논리 구조를 확인하고, 수식이 실제로 맞는지 검토하고, 주장과 계산 사이에 논리적 비약은 없는지를 판단해야 한다. 결국 AI가 논문을 빠르게 만들어낼수록, 이를 제대로 읽고 검증해야 하는 사람의 일이 더 많아지는 셈이다.

그리고 앞으로는 조금 더 근본적인 질문도 나오지 않을까 싶다.

AI의 도움을 받아 새로운 지식을 찾아내고 논문을 작성했다면, 그것은 과연 온전히 저자의 업적이라고 할 수 있을까? (슬프게도 해당 논문들을 꼼꼼이 읽어보다 보면, 오류들이 종종 발견되곤 한다...)

물론 그 과정에서 연구자가 상당한 시간과 노력을 들였을 수도 있다. AI에게 질문을 던지는 것 자체도 연구자의 능력이고, AI가 제시한 수많은 답변 중에서 무엇이 맞고 틀린지를 판단하는 것 역시 연구자의 몫이다. 그렇다고 하더라도 AI가 연구 과정에서 차지하는 비중이 점점 커진다면, 과거와는 다른 방식으로 '저자의 기여'를 정의해야 하는 시대가 올 수도 있을 것 같다.

그리고 이것이 조금 걱정되는 부분이다.

논문의 양과 작성 속도가 폭발적으로 증가하면 결국 논문의 내용만으로 연구자의 역량을 판단하기가 점점 어려워질 수 있다. 그렇다면 사람들은 오히려 저자의 background check를 더 중요하게 생각하게 되지 않을까?

어디에서 박사학위를 받았는지, 어떤 연구 그룹에 있었는지, 누구와 함께 연구했는지, 어떤 지도교수 밑에서 연구했는지와 같은 정보들이 지금보다 더 중요한 평가 기준이 될 수도 있을 것 같다.

아이러니하게도 AI가 연구의 진입장벽을 낮추는 동시에, 연구자를 평가하는 과정에서는 오히려 학벌이나 유명 연구 그룹과의 연결 같은 기존의 배경이 더 중요해지는 상황이 만들어질 수도 있다는 것이다.

AI 덕분에 누구나 더 쉽게 새로운 분야에 도전할 수 있는 시대가 되었는데, 정작 그 결과물을 믿게 만드는 것은 그 사람의 연구 내용이 아니라 그 사람의 '배경'이 되어버린다면 조금 이상한 일이 아닐까.

아직은 이런 변화가 어디까지 이어질지 잘 모르겠다.

다만 앞으로 연구라는 것이 단순히 "좋은 논문을 쓰는 것"만으로 평가되기는 점점 어려워질 것이라는 생각은 든다. AI가 논문을 작성하는 데 도움을 주는 시대가 된 만큼, 무엇을 연구자가 직접 했는지, 무엇을 AI가 도왔는지, 그리고 최종적으로 연구자의 독창적인 기여가 무엇인지를 어떻게 판단할 것인지에 대한 고민도 점점 중요해질 것 같다.

아마 지금 우리가 보고 있는 AI Usage Disclosure도 그 변화의 시작 중 하나일 것이다.