[TVis] 카이스트 교수 “협박까지 가능한 에이전트 AI 뜬다… 같이 공존해야” (옥문아)

사진=KBS2 ‘옥탑방의 문제아들’ 방송 캡처

카이스트 뇌과학자 김대식 교수가 차세대 AI 기술로 ‘에이전트 AI’를 꼽으며 위험성과 가능성을 동시에 언급했다.

14일 방송된 KBS2 ‘옥탑방의 문제아들’(이하 ‘옥문아’)에는 김대식 교수가 출연해 최근 급부상 중인 AI 기술에 대한 생각을 밝혔다.

이날 김 교수는 “챗GPT는 사용자의 정보를 굉장히 많이 안다”며 “‘나 멘털 강하니까 아첨하지 말고 솔직하게 말해봐’라고 입력해봤다”고 말했다. 이어 “갑자기 ‘대식아’라고 반말하더니 ‘좋은 대학 나오고 뇌과학 연구도 하지만 귀가 얇은 찌질이 박사’라고 하더라”며 “문제는 다 팩트라 뭐라고 할 수 없었다”고 털어놔 웃음을 안겼다.

또 그는 최근 AI 업계 화두로 떠오른 ‘에이전트 AI’를 언급했다. 김 교수는 “기존 생성형 AI가 정보를 찾아주는 수준이었다면, 에이전트 AI는 예약부터 실행까지 직접 처리해주는 개념”이라며 “현재 가장 뜨거운 분야”라고 설명했다.

이어 “올해 1월에는 여러 개의 에이전트를 동시에 지휘하는 상위 에이전트 개념까지 등장했다”며 “만약 이런 시스템이 해킹된다면 협박이나 실행까지 가능해질 수 있다”고 우려했다.

그러면서도 “앞으로 중요한 건 AI와 함께 가는 방향으로 스탠스를 바꾸는 것”이라며 “이제는 무엇을 하든 인공지능과 공존해야 하는 시대”라고 강조했다.