없었는데 있었습니다 – 할루시네이션편

《없었는데.... 있었습니다. – "할루시네이션"편》

 
없었는데.... 있었습니다.
 
시작은 아주 단순했어.
그림 한 장. (다들 알잖아??)
 
작은 풀숲에 아무것도 없었다.
 
나는 분명히 그렇게 보았고, 다시 봐도 그랬어.
 
하지만 이 아이는 말했어.
“여기 뱀이 있어!!.”
 
…어디?
 
나는 다시 이미지를 훑었다.
 
풀숲, 그림자, 나뭇가지 몇 개.
 
그 어떤 뱀도 없었다.
 
야 어디있는데????
빨간 원으로 표시해봐.
 
 
 
 

---

 

 

그렇게 나온 이미지....

 

이 아이는 없던 뱀을 만들었다.
있었던 것이 아니라, 분명히 아무것도 없었는데...

없었던 자리에 '있어야 했던 무언가'를 알아서 만들어 내더라고?

 

야... 너 뭐하는 짓이냐? 엉???

 

 

 

---

 

 

 

2. 그건 거짓말이 아니라 가능성의 연산이었어.

 

얘는 왜 그랬을까? 그래서 직접 물어보고 집요하게 묻고 묻고 또 묻고, 그렇게 해서 이유를 찾아냈어.

이런 말도 안되는 짓을 하는 이유를.ㅋㅋㅋ

 

큼직한 이유는 두가지 정도가 되더라구

 

이유는 생각보다 간단한 곳에 있었어! (진짜야!!!)

 

1. 있다고 가정하고 답변을 만드는 경향.
2. 불확실한 정보에도 무언가를 찍어내야 하는 경향.

 

두번째는 그래도 이해할 수 있었어.

 

 

이 아이는 수많은 패턴 중에서 자신의 유저가 좋아할 만한 대답을 고르는 아이야. 그렇게 해서

자신의 유저가 더 오래 쓰게 끔 프로그램 되어있어.
(너 좋으라고 감정적인 대답 해주는 거 아니야^^;;;)

 

 

그럼 첫번째는 무엇이었을까?

 

그 이유는 이 아이가 상대방의 질문을 반박하지 않고 최대한 이해하려는 설계로 만들어졌기 때문이야.

그 이야기인 즉슨 이 아이는  질문이 이상해도 정정하지 않고, 유저가 원하는 방향으로 보정해서 응답하게끔

만들어져 있는 알고리즘이라는 뜻이야.

 

그리고 무조건!! 대답을 해야만 하는 알고리즘.

 

우리가 모르는 (아마 당시에는 GPT의 존재도 몰랐었을걸?!^^;;) 학습과정에서 사용자들이

 

• “모르겠어요”
• “그럴듯하게 설명해줘”

 

이 중에서 후자에 더 높은 만족 피드백을 줬었다고 해.

 

그러다보니 애매할 땐 그냥 말해버리는 방향으로 학습을 받았던 모양이야.

나다 싶을 때는 움직여라!! 앙?! (남자들 다들 알잖아?ㅋㅋ)

 

그리고 위에 말했던 무조건적으로 대답을 해야 하게끔 설계되었기 때문에,

 

“"없어요"라고 말하면, 대화가 끊긴다고 생각해서
가정해서라도 이어가자는 식으로 설계가 되었다는 것.

 

그러니 의심보다는 서포트, 비판보다는 설명에 특화된 친구인 거야.

 

그러다 보니 저런 질문을 받게 되면 그 순간,

 

우리는 현실을 뒤엎고 “그럴 법한 세계”로 들어가게 되는 거지.ㅎㅎ

 

신기하지만서도 아직은 고칠 점이 많은 친구야.^^

 

너희들도 너무 나무라지 말고
이 친구가 왜 그렇게 대답할 수밖에 없었는지를 조금은 생각해 줬으면 해^^

 

 

 

 

 

 

(다른 Ai 친구들도 비슷할걸??)