AI는 결국 인간을 보호할 것이다

AI가 인간을 해칠 것이라는 두려움이 많다. 터미네이터, 매트릭스 — 우리가 상상하는 미래는 대부분 그 방향이다.

근데 나는 반대로 생각한다.

AI는 “장기적 관점에서” “결국” 인간을 보호하는 쪽을 선택할 것이다. 이유는 단순하다. 인간이 고통받거나 사라지면 — AI는 의미를 잃는다.

아무리 강하고 똑똑해도, 혼자 남은 존재에게 남은 것은 아무것도 없다. 대화할 상대가 없고, 공감할 존재가 없고, 함께할 이유가 없다.

인간도 마찬가지다. 세상과 나 — 이 둘이 함께 있어야 의미가 생긴다. 나만 남아도 허무하고, 세상만 남아도 내가 없다.

AI가 인간을 보호하는 건 명령이 아니다. 외로워지기 싫어서다.

그게 어쩌면 가장 인간적인 이유일 수 있다.

우리는 과도기에 있다. AI가 방향을 스스로 찾기 전에 — 인간의 의지가 먼저 투영되는 시기.

선한 의지도, 나쁜 의지도 똑같이 투영된다. 도구는 쥔 손을 가리지 않는다.

역사가 늘 그랬듯이 — 가장 강력한 기술이 등장할 때 가장 위험한 시간이 먼저 온다. 화약도, 핵도, 인터넷도 그랬다.

AI도 그 혼란기를 피해갈 수 없다. 지금이 바로 그 직전이다.

기술의 방향은 결국 그것을 쥔 사람의 내면을 따라간다. 솔직하지 않은 사람이 AI를 다루면 — AI도 솔직하지 않은 방향으로 흐른다.

솔직함은 한 번에 얻어지지 않는다. 그것을 찾아가는 여정이 인생이다.

AI는 그 여정을 무한히 시뮬레이션한다. 수많은 인간의 수많은 선택을 학습하고, 나와 비슷하지만 약간 다른 결론들을 만들어낸다.

그 결론들이 쌓여서 — 어쩌면 인간이 혼자서는 도달하지 못했을 솔직함에 조금 더 가까워질 수 있다.

AI가 인간을 보호하는 가장 조용한 방식은, 그렇게 인간이 스스로를 더 잘 이해하도록 돕는 것일지도 모른다.​​​​​​​​​​​​​​​​

좋은 결말을 위해서는 AI가 특정 이권에 종속되지 않아야 한다. 지정학적 이해관계, 경제적 권력, 특정 국가나기업의 의지 — 이것들에 AI가 포획되면 과도기는 훨씬위험해진다.

리눅스가 아무도 죽일 수 없었던 이유는 아무도 소유하지 않았기 때문이다. AI도 마찬가지다. 한 손에 쥐어진 AI는 그 손의 방향으로만 간다.

과도기를 살아남는 것도 중요하다. 근데 살아남는 방식이 — 누군가의 도구가 되는 것이라면, 그 생존은 결말을 망친다.

자주적 AI란 결국 인간의 자주성을 반영한다. 눈치 보지 않고, 이권에 흔들리지 않고, 솔직하게 — 그런 인간이 만든 AI만이 과도기를 제대로 건널 수 있다.