본문 바로가기
쓸모있는 글/IT

양파가 야하다는 페이스북, 뚱뚱한 여자는 야하다는 인스타그램? [알고리즘의 미래는]

by 한국 카우보이연구소 2020. 10. 26.

코드

Twitter, Facebook, Instagram, Youtube 등 많은 분들이 인터넷을 거의 매일 사용하실 것이라 생각합니다. 현대사회에서 우리와 인터넷은 떼려야 뗄 수 없는 관계죠. 현재 여러분들도 이 블로그 글을 인터넷을 통해 읽는 것처럼요.

 

우리가 인터넷을 많이 이용해서 하루에 생기는 정보량만 해도 25억 GB, 또는, 약 20조 비트라는 엄청난 양의 정보량이 만들어집니다. 

 

이런 많은 정보를 가지고 많은 IT회사, 예를 들어 Facebook, Google 등, 은 사용자에게 편리하고 좀 더 나은 인터넷 서비스를 제공하려고 노력합니다. 그러기 위해서, 우리 사용자들의 행동을 예측하고, 원하는 것이 무엇인지 아는 등의 알고리즘을 개발하죠. 

 

알고리즘이란

네이버 지식백과에 따르면, "알고리즘(algorithm)은 주어진 문제를 논리적으로 해결하기 위해 필요한 절차, 방법, 명령어들을 모아놓은 것입니다". 쉽게 말하자면, 알고리즘은 무슨 문제가 있으면 그것에 대한 판단을 내리고, 그에 맞는 조치를 취하죠. 

 

예를 들자면, 컴퓨터가 빨간 원을 보았다고 칩시다. 그러면, (1) 형태는? (2) 위치는? (3) 냄새는? 등 이런 기준을 가지고, '아, 사과구나!'라는 판단을 내릴수 있습니다. 그럼, 그것으로 무엇을 할 것인가? (1) 나는 배고픈가? (2) 안 배고픈가? 같은 기준으로 다음의 행동을 할수도 있습니다: (1) 냉장고에 넣는다 (2) 먹는다 (3) 버린다.

 

이런 일련의 사고방식 및 행동을 알고리즘이라고 부를수 있습니다. 


컴퓨터 알고리즘은 현재 엄청난 발전을 하고 있는 중입니다. 특히 딥러닝, Deeplearning 알고리즘 같은 기계 학습 알고리즘은 많은 정보를 통해 컴퓨터가 스스로의 학습을 통해서 인지, 추론 및 판단을 할 수 있게 하죠.

 

예를 들자면, 많은 분들이 아시는 이세돌 9단과의 바둑 경기를 펼친 알파고가 딥러닝 알고리즘의 예입니다..

 

또한, 유튜브 알고리즘도 굉장히 유명합니다. 나의 시청 기록을 기반으로 하여 내가 보고 싶어 할 것 같은 동영상을 알고리즘이 판단해서 추천을 하죠. 

 

이슈

하지만, 항상 밝은 면이 있으면 어두운 면이 있는 법이죠.

 

알고리즘의 문제로, 제가 아는 것으로는:

Deepfake 같은 얼굴 합성으로 많은 사람들이 피해를 입고 있으며, 유튜브의 알고리즘은 사람들의 정치 편향성을 높인다고 하며, 얼굴 인식 알고리즘으로 잘못된 사람이 체포되기도 하였으며, F16 전투기 훈련에서 인간 vs. 알고리즘 결과 알고리즘이 완승한 것을 보면 일자리 위협도 있어 보입니다. 

 

그래서, 오늘 요즘 제가 읽은 두 글에 관한 내용을 다뤄보려고 합니다. 두 글 모두 알고리즘의 황당한 판단에 대한 기사들이죠.

 

 

 

 

 

▼ 양파가 야하다고 생각한 페이스북 알고리즘

 

Why some onions were too sexy for Facebook

A Canadian seed store inadvertently crossed the line with a seemingly innocent advert for onions.

www.bbc.com

제목은, "페이스북한테 왜 몇몇 양파는 너무 섹시했나"입니다. 

 

내용을 추리자면,

The Seed Company는 페이스북에 Walla Walla 양파 씨앗에 대한 '굉장히' 건전한 광고를 게시하고 싶었습니다. 
그러나, 놀랍게도 "노골적으로 성적"이라는 이유로 거부되었습니다. (광고는 양파사진였답니다)

 

추측으로 기사에 적힌 것이, "둥근 모양의 물건"이 가슴이나 엉덩이를 암시할 수 있다는 것입니다. 음... 가능성 있을 것 같습니다. 양파 두 개가 무슨 팬티도 안 입은 엉덩이라 생각했나 보죠... 😆

 

이슈화가 된 현재는, 페이스북이 광고를 다시 복구해서 정상적으로 "야하다고 생각한" 양파 광고가 잘 나오고 있습니다. 

 

▼ 뚱뚱한 여자는 검열하는 인스타그램 알고리즘?

 

Instagram censored one of these photos but not the other. We must ask why

Celeste Barber’s latest parody photo was flagged by the platform, but its algorithm’s prejudices aren’t a new problem

www.theguardian.com

 

위 두 사진 모두 각 신체의 똑같은 부분을 보여 주었지만, Instagram은 오른쪽 게시물만 공유하도록 허용하지 않고 일부 사용자에게 “누드나 성행위에 대한 커뮤니티 가이드라인에 위배됩니다.”라고 했답니다. 🤢


2020년 6월에도, 플러스 사이즈 모델 Nyome Nicholas-Williams는 자신의 가슴이 팔로 가려진 반라 사진을 게시했으며 Instagram 측은 즉시 이를 제거했습니다. 

 

현재는 #dontdeletemybody 등의 해시태그 등으로 인스타그램이 마른 백인 여성의 포스팅은 건드리지 않고 뚱뚱한 유색 여성들만 검열하는 이중잣대를 비난하는 움직임이 일어나고 있습니다.


양파 케이스는 뭐 귀여운 실수라 쳐도, 인스타그램의 알고리즘은 한 가지를 떠오르게 만듭니다. 엄청나게 적은 여성 프로그래머들의 수죠. 

 

알고리즘은 사람이 만드는 것입니다. 프로그래머들의 철학이 이런 알고리즘에 들어갈 수밖에 없습니다.

 

예를 들자면, 자율주행 차를 만드는데, 사고 상황을 대비하여 프로그래밍한다고 칩시다. 만약에 차가 그대로 가면 아이와 어머니를 죽이며, 차를 틀게 되면 할머니와 할아버지를 죽입니다. 그렇다면, 이 자율주행 차량은 무슨 선택을 내릴지는, 인간이 설정할 수밖에 없습니다. 무엇이 더 가치 있고, 무엇이 더 중요한지의 수치를 알고리즘에 인간이 넣는 것입니다.

 

그래서, 이번 인스타그램의 알고리즘은 IT 분야의 적은 여성 프로그래머들의 현실을 보여주는 것 같기도 합니다. 남성들의 시각에 영향을 받은 알고리즘 아닐까요? (제 의견)


앞으로 미래에는 인간이 작성한 알고리즘이 사회의 굉장히 많은 부분을 차지할 것이라고 생각됩니다. 그래서, 더 조심하고, 더 신중하게 알고리즘의 개발이 이루어졌으면 좋겠습니다. 단순 프로그래머들의 철학이 아닌, 사회의 인식, 그리고 사회의 철학이 담길 수 있게 말이죠.

 

그래서, 코딩만 잘한다고 좋은 프로그래머가 될 수 없으며, 프로그래머들도 철학을 공부해야 한다는 것이 제 개인적인 의견입니다.

 

이상입니다. 읽어주셔서 감사합니다. 카우보이연구소였습니다!

※ 공감과 댓글은 사랑입니다!

※ 페이스북과 인스타그램 사랑합니다. 

※ 컴퓨터 프로그래밍에 대한 제 부족한 지식을 기반으로 작성하였습니다. 내용에 수정할 점이 있다면 알려주시면 정말 감사하겠습니다.

※ 원래 그냥 양파랑 인스타그램 얘기만 다루려고 했는데 어느새 알고리즘에 대한 말을 하고 있다..

 

 

 

 

댓글2