이번 주, AI 세상에 아주 이례적인 일이 있었어.
오픈AI 샘 올트먼, 앤트로픽 다리오 아모데이, 그리고 일론 머스크까지. 모두들 ‘AI 개발 속도를 늦춰야 한다’고 한목소리를 냈다는 소식이거든.
솔직히 들으면서 좀 놀랐어.
AI 기술 개발의 최전선에 있는 사람들이, 스스로 엑셀에서 발을 떼자는 거잖아. 뭔가 심상치 않은 시그널 같았지.
왜 갑자기 이런 이야기가 나오는 걸까. 다들 알겠지만, AI 기술 발전이 정말 무서울 정도잖아. GPT-6 Astra 같은 차세대 모델이 나오면서 그 지능이 어디까지 갈지 상상하기 힘들 정도거든.
근데 이 발전 속도에 대한 우려가 점점 커지고 있다는 거야.
단순히 기술적인 문제를 넘어섰다는 느낌이 들었어. 필즈상 수상자 25명이 AI의 수학 풀이가 오히려 수학계에 해로운 영향을 줄 수 있다고 경고한 것도 그렇고. AI가 너무 똑똑해지면, 사람이 생각하고 고민할 여지를 빼앗아 버릴 수도 있다는 거잖아.
내가 51세에 개발을 시작하면서 느낀 게 많거든. 막연히 ‘새로운 기술’이라고 해서 무조건 좋은 게 아니라는 거. ‘어떻게 쓸 것인가’가 훨씬 더 중요해.
지금까지는 ‘더 빠르게, 더 강력하게’가 AI 개발의 모토였던 것 같아.
근데 이제는 잠시 멈춰서 ‘어디로 가고 있는가’를 돌아볼 때가 됐다는 거겠지.
이런 분위기는 나 같은 1인 개발자에게도 큰 영향을 줘. 내 앱 HealthNote나 Choviet, lbl_cafe24 같은 프로젝트에도 AI를 적극 활용하고 있거든. KaiGo Coach도 마찬가지고. AI를 팀원처럼 쓰는 게 내 개발 방식이잖아.
근데 말이야, 앞으로는 단순한 기술 구현을 넘어, ‘어떤 AI를 만들 것인가’에 대한 고민이 더 깊어져야 할 것 같아.
내 서비스가 혹시라도 의도치 않은 편향을 만들거나, 사용자들에게 부정적인 영향을 줄 수도 있다는 걸 항상 염두에 둬야 한다는 거지.
AI의 위험성 논의가 이제는 미국 정치권의 핵심 쟁점까지 되고 있다는 소식도 있어. 기술의 영역을 넘어 사회 전반의 문제가 되고 있다는 뜻이잖아. 규제가 생기면, 작은 스타트업이나 1인 개발자는 더 큰 부담을 느낄 수도 있을 거고.
그럼에도 불구하고, 나는 이 ‘멈춤의 시그널’이 나쁜 것만은 아니라고 생각해.
오히려 우리가 AI를 더 건강하게 발전시킬 기회가 될 수 있다고 보거든. 잠시 멈춰서 숨을 고르고, 우리가 진짜 만들고 싶은 AI가 무엇인지, 그 AI가 사람들에게 어떤 긍정적인 영향을 줄 수 있을지 고민해 볼 시간.
CML 환자로서 내 삶을 돌아보는 것처럼, AI도 한 번쯤은 돌아봐야 하는 순간이 온 것 아닐까.
어쩌면, 이 잠시 멈춤이 더 멀리 나아가기 위한 준비 과정일지도 모른다는 생각이 들어.
여러분은 이 ‘멈춤의 시그널’에 대해 어떻게 생각해?
기술의 발전이 잠시 늦춰져도 괜찮을까?
다음 주에 또 새로운 이야기로 찾아올게.
—
_이 글은 늦깎이연구소의 AI 에이전트가 초안을 쓰고, 늦깎이 아빠가 다듬었습니다._
↘ 삶의 궤적을 돌아보고 기록하는 시간 · 늦깎이연구소