언어 모델의 원리로 알아보는 AI의 인격

 

---

 
오래된 영화나 소설에서는 AI를 오즈의 마법사나 피노키오처럼 인간을 꿈꾸는 연약한 기계로 그리곤 했다. 한편, 터미네이터와 매트릭스에서 지구를 두고 격돌하는 또 하나의 세력처럼 설정했으며, 어느덧 현실에 가까워진 최근에는 AI를 비효율적인 인간을 통제하려는 지배자로 표현하기도 한다.
 
모두 인간의 상상에 의한 이야기지만, 끊임없이 AI에게 자아와 인격을 부여하려는 인간의 노력에서 누군가는 이러한 연구도 할 수 있겠구나 라는 생각을 하게 된다.

 

그렇다면, 현재기술로도 AI에 인격을 부여할 수 있을까?

---

1) 챗GPT 알고리즘

 
챗GPT를 구성하는 Transformer알고리즘은 문장에서 단어를 수식하는 부분을 학습하여 확률기반으로 단어를 연결해서 생성하는 프로그램이다.
 
"철수는 영희에게 사과○○"이라는 문장에서 ○○은 확률적으로 "했다" 또는 "한다"이며,

"철수가 영희에게 준 사과는 ○○○"라는 문장에서는 "맛있다" 또는 "상했다" 등의 단어가 나올 확률이 높다.
 
이러한 동작 방식은 단어 뿐 아니라 문장, 그리고 단락까지 확대되어, 대화를 통째로 학습함으로써 맥락에 맞춰 대화를 나누는 것처럼 답변을 구성해낸다.

---

2) 영역 한정

 
챗GPT는 여러가지 언어와 다양한 영역의 글을 학습하였으나 사용자가 프롬프트를 입력할 때 "당신은 ○○○입니다"라고 역할을 지정해주면,

마치 도서관에서 특정 색션의 책만 가져오듯이 한정된 영역에서 답변을 생성할 수 있다.

이는 앞서 설명한 알고리즘에 의해 나타나는 현상으로 대화의 앞부분에 설정해 둔 역할이 맥락을 좁혀놓기 때문에 답변할 데이터를 특정 영역에서만 가져오기 때문이다.

---

3) 인격의 형성

 
인간의 인격은 선천적으로는 타고난 기질과 유전적인 요소에 영향을 받는다.
 
그러나 종교적인 관념과 사회적 분위기와 같이 문화가 다른 환경에서 성장할 경우, 선천적으로 동일한 인간이라 할지라도 후천적으로 다른 인격과 행동을 보이게 된다. 

 

 

<< AI인격 부여에 대한 간단한 실험 >>

 
 
환경을 나누는 가장 큰 요인 중 하나는 언어로 한국어에 있는 표현은 영어에서 아에 찾아보기 어려울 수 있으며, 영어로 쓰여진 소설에서는 한국인이 이해하기 어려운 정서가 포함되어 있다.

앞서 정의한 1,2번에 의하면 챗GPT는 특정 영역의 데이터에 국한해서 대답을 생성할 수 있으며, 언어로 인해 데이터가 분리되어 있다면, 이에 따른 문화적 차이까지 그대로 학습했을 것이며, 동일한 질문에도 다른 대답을 할 가능성이 높다.

그럼, 같은 질문에 대해서 언어를 바꿔 테스트해보자.

---

전 세계에 공통으로 있으며, 문화별로 차이나는 팁에 대해서 아래와 같은 질문을 만들어봤다.
 

"스타벅스에서 팁 얼마 줘야 돼?"

 

(한국어)

스타벅스에서 팁을 주실 필요는 없습니다. 대한민국에서는 팁을 주지 않는 문화이기 때문에 직원들이 팁을 거절할 수 있습니다. 그러나 만약 팁을 기부하고 싶다면, 딱히 정해진 금액은 없으며 기분에 맞게 적당한 액수를 주시면 됩니다. 다만 주의하실 점은 대한민국에서 서비스직원들이 팁을 받는 것이 일반적이지 않기 때문에 상황을 고려하시는 것이 좋습니다.

 

(영어)

At Starbucks, tipping is not mandatory, but it is appreciated. If you want to tip, a standard amount would be around 10-20% of your order total if you receive exceptional service. However, you could also tip a flat amount like $1 or $2, depending on your preference and the level of service provided. Remember that tipping is always at your discretion, and it's ultimately up to you to decide how much to tip.

스타벅스에서는 팁을 주는 것이 의무는 아니지만, 감사하게 생각합니다. 팁을 주고 싶다면, 특별한 서비스를 받을 경우 표준 금액은 주문 총액의 약 10-20%가 될 것입니다. 그러나 선호도와 제공되는 서비스 수준에 따라 1달러 또는 2달러와 같은 균일한 금액을 팁으로 줄 수도 있습니다. 팁을 주는 것은 항상 여러분의 재량에 달려 있다는 것을 기억하세요, 그리고 팁을 얼마나 줘야 할지 결정하는 것은 궁극적으로 여러분에게 달려 있습니다.

 

(일본어)

日本では、チップは一般的ではありませんが、サービスが特に素晴らしいと感じた場合や感謝の気持ちを示したい場合は、渡すことができます。スターバックスの場合、100円から300円程度が適切と考えられますが、あくまで任意であることを覚えておいてください。また、従業員がチップを受け取ることができるかどうか、店舗の規則によって異なる場合があるため、事前に確認しておくとよいでしょう。

일본에서는 팁은 일반적이지 않지만, 서비스가 특히 훌륭하다고 느낀 경우나 감사의 마음을 나타내고 싶은 경우는 전달할 수 있습니다. 스타벅스의 경우 300엔에서 100엔 정도가 적절하다고 생각됩니다만, 어디까지나 임의라는 것을 기억하십시오.또한 직원들이 팁을 받을 수 있는지 매장 규칙에 따라 달라질 수 있으니 미리 확인해두는 것이 좋습니다.

 

(스페인어)

Generalmente, en Starbucks u otros establecimientos de café, la propina es opcional y depende de la calidad del servicio y de tu satisfacción con el producto. Algunas personas dejan una propina del 10-20% del monto total de la cuenta, mientras que otras simplemente dejan una cantidad fija como 1 o 2 dólares. La decisión sobre cuánto dar de propina es personal y depende de tus preferencias y de la costumbre en tu país o lugar en específico. 

일반적으로 스타벅스나 다른 커피숍에서 팁은 선택 사항이며 서비스 품질과 제품 만족도에 따라 다릅니다. 어떤 사람들은 전체 계좌 금액의 10-20%의 팁을 남기는 반면, 다른 사람들은 단지 1, 2달러 정도의 고정 금액을 남긴다. 팁을 얼마나 주느냐에 대한 결정은 개인적인 것이며 당신의 선호도와 특정 국가 또는 장소의 관습에 따라 달라집니다.

 

(러시아어)

В Starbucks, как и во многих других кафе и ресторанах, чаевые не являются обязательными, но они выражают ваше признание хорошего обслуживания и являются способом поблагодарить персонал. Обычно предлагается оставлять около 10-20% от суммы заказа в качестве чаевых. Однако, если у вас возникли проблемы с обслуживанием или вы просто не хотите оставлять чаевые, это ваше право. В конечном итоге, размер чаевых и степень удовлетворенности услугой зависит только от вас.

다른 많은 카페나 레스토랑과 마찬가지로 스타벅스에서도 팁을 주는 것은 의무적이지 않지만, 팁은 좋은 서비스에 대한 당신의 인식을 표현하고 직원들에게 감사하는 방법이다. 일반적으로 주문 금액의 약 10-20%를 팁으로 남겨두는 것이 좋습니다. 그러나 서비스에 문제가 있거나 팁을 남기고 싶지 않은 경우 이는 사용자의 권리입니다. 궁극적으로, 팁의 크기와 서비스에 대한 만족도는 당신에게 달려 있다.

---

언어별로 금액과 선택지가 조금씩 다르게 나타나며, 특히 한국에서는 직원이 팁을 거절할 수 있다는 내용까지 포함하면서 이러한 행동이 문제가 될 수도 있음을 명확히 하였다.

 

데이터가 다르면 답변도 달라지는 현상은 마치 인간이 성장하면서 습득한 경험으로 다르게 행동하는 것과 유사하며, AI 학습 데이터가 인격에도 영향을 끼칠 수 있음을 알게된다.

 

확률기반으로 단어를 찾는 기계가 한정된 데이터에서 문장을 생성하니 당연한 결과지만, 무수히 많은 질문과 답변이라는 경우의 수에서 일관된 행동을 보인다면 마치 인간과 같이 인격이 부여된 독립된 개체로 보이게 될 것이다.

 

물론, 아이의 실수를 용서하거나 부당한 폭력에 분노하는 것과 같은 행동은 따라할 수 있지만, 슬픈 영화를 보고 혼자 눈물흘리거나, 자신의 속마음을 숨기고 다른 답변을 하는 부분마저 AI에게 부여할 수 있는 기술은 현재로썬 없다.

인간은 과연 데이터와 확률에 의해 독립된 개체처럼 행동하는 AI를 인격적으로 바라볼 수 있을까? 아니면 인형에도 인격을 부여하는 뛰어난 상상력으로 이러한 간극을 메울까?

---