싱귤래리티가 어떻게 생겼는지 알려드립니다.

특이점이나 지능 폭발이 실제로 무엇을 의미하는지에 대해 오해하는 게시물을 많이 볼 수 있기 때문에 이 이미지를 염두에 두는 것이 좋습니다.

대부분의 역사에서 진보는 평탄해 보입니다. 수천 년 동안 조금씩 점진적으로 개선되어 왔습니다. 그러다가 천천히 곡선을 그리기 시작합니다. 농업, 산업, 전기, 컴퓨팅. 여전히 관리할 수 있고, 여전히 "사람이 하는 일"이라고 느껴집니다. 왼쪽의 길고 지루한 부분이 바로 그 부분입니다.

사람들이 놓치는 핵심은 기하급수적인 성장이 기하급수적으로 느껴지지 않는다는 것입니다. 기하급수적인 성장이 일어나기 전까지는 압도적으로 느껴지지 않습니다. 한 걸음 한 걸음 앞으로 나아갈 때마다 "어, 작년보다 조금 나아졌네." 하는 식으로 오랫동안 느껴집니다. 그러다가 갑자기 곡선이 수직으로 올라가는데, 이는 그 순간 마법 같은 일이 일어났기 때문이 아니라 모든 복리가 마침내 누적되기 때문입니다.

특이점은 "인공지능이 하룻밤 사이에 갑자기 신이 되는 것"이 아닙니다. 진전이 너무 가파르고 자기 강화적이어서 인간의 직관, 제도, 타임라인이 더 이상 예측에 유용한 도구가 되지 못하는 시점이 바로 특이점입니다. 이 도약은 돌이켜보면 터무니없어 보입니다.

따라서 사람들이 "그렇게 빨리 느껴지지 않는다" 또는 "전에도 과대포장된 적이 있다"고 말할 때, 그래프의 작은 막대기 그림 바로 앞에 서 있는 여러분이 예상할 수 있는 바로 그 지점입니다.

아이디어를 진지하게 받아들이기 전에 극적으로 느껴지기를 기다린다면 곡선의 모양을 잘못 이해한 것입니다.

---