인스타그램 컨텐츠 피싱 시대

GPT IMAGINE2 모델이 나오고 난 이후로 인스타그램이랑 스레드를 보다 보면 묘한 계정들이 계속 보인다.

얼굴은 너무 예쁘고, 몸은 너무 완벽하다.

여행도 다닌다.
운동도 한다.
카페도 간다.
침대 위에서 사진도 찍고, 해변에도 가고, 거울 셀카도 올린다.

처음 보면 그냥 흔한 인플루언서 계정 같다.

실제로 존재하는 장소의 사진이나 인터넷에서 흔히 볼 수 있는 배경 위에 AI로 만든 사람을 합성하는 방식이다. 그리고 사람들이 가장 오래 쳐다볼 만한 몸과 얼굴을 만들어 놓는다.

노출은 적당히 강하게, 가슴을 강조하고, 엉덩이를 강조하고, 수영복을 입히고, 운동복을 입힌다.

그렇게 팔로워를 모은다. 몇몇 계정 중에는 이런 사람이 남자친구를 찾고 있습니다~ 하는 계정도 있다.

컨텐츠 생산자는 머리가 좋은 사람이 맞는 것 같다.

끝은 어떻게 될지도 보인다. 택갈이를 할 것이다.

목표하는 팔로워 수를 모집을 하게 되면 바로 해당되는 컨텐츠를 다 삭제할 것이 보인다.

여기서 또 재미있는 건 댓글이다.

사진 밑에는 또 비슷한 계정들이 모여든다.

“너무 예뻐요.”

“진짜 미쳤다.”

“몸매 대박이에요.”

그런데 댓글을 단 계정을 눌러보면 그쪽도 AI 다.

정부가 왜 나서서 가짜뉴스에 대한 규제를 하려고 하는지 더 명확해지는 판이 되어 가고 있다.

이제 진짜와 가짜를 구분할 수 있어야 하는 현실 감각을 가진 사람들이 살아남는 구조가 될 것이라 보고 있다.

인간이 없어도 인플루언서는 만들어지고 있다.

생각해보면 인플루언서라는 직업은 원래 비용이 많이 드는 직군이자 사업이다.

사람이 있어야 하고, 사진을 찍어야 하고, 좋은 장소에 가야 하고, 옷도 필요하고, 화장도 해야 하고, 컨디션도 관리해야 한다.

사람이다 보니 나이도 들고, 살도 찌고, 기분이 안 좋은 날도 있다.

촬영을 하기 싫을 수도 있고 사고를 칠 수도 있다. 유명해지면 광고비도 올라간다.

그런데 AI 인플루언서는 이 문제를 거의 전부 없애버린다.

나이를 먹지 않는다. 촬영비가 필요 없다. 비행기표도 필요 없다.

몸매가 마음에 들지 않으면 다시 만들면 된다.

반응이 안 좋은 얼굴이면 얼굴을 바꾸면 된다.

수영복 사진의 반응이 좋으면 수영복 사진을 더 만들면 된다.

조금 더 노출했을 때 팔로우 전환율이 좋아지면 조금 더 노출하면 된다.

결국 인플루언서 산업에서 가장 관리하기 어려웠던 요소 하나를 제거할 수 있게 된 셈이다.

인간 컨텐츠를 묻어버리는 것.

AI컨텐츠의 양산으로 진짜 인간 컨텐츠는 묻히게 될 가능성이 커지고 있다.

그런데 사람들은 정말 속고 있는 걸까

처음에는 나도 이런 계정을 보면서 생각했다.

이걸 진짜 사람이라고 믿는 사람이 이렇게 많다고?

거기에 달려있는 AI 계정이 아닌 실제 이용자들의 댓글을 보면 굉장히 진지하다.

“어디 사세요?”

“너무 제 스타일이에요.”

“실제로 한번 보고 싶어요.”

조금 웃기기도 하면서 보이스피싱이 이렇게 당하게 되는구나를 생각하게 된다.

그런데 한편으로는 이런 생각도 든다.

정말 모두가 속고 있는 건지. 아니면 사실이라는 것이 이제는 별로 중요하지 않은 건지.

인스타그램에서 우리가 누군가를 팔로우할 때 그 사람이 실제로 존재하는지부터 검증하지는 않는다.

예쁘면 본다.

멋있으면 본다.

야하면 한 번 더 본다.

부러운 장소에 있으면 본다.

팔로워가 많으면 유명한 사람인가 싶어서 본다.

댓글이 많으면 사람들이 좋아하는 사람인가 싶어서 또 본다.

어쩌면 우리는 처음부터 사람 그 자체를 보고 있었던 게 아닐지도 모른다.

그 사람을 보고 있음으로 인해서 나 스스로 만들어낸 환상을 보고 있었던 것.

SNS는 원래 현실이 아니었다는 것을 모두가 잊고 있다.

사실 이건 AI가 등장하기 전부터 시작된 일이었다.

SNS 속 삶은 원래 현실을 그대로 보여주지 않는다.

가장 좋은 여행 사진만 올리고, 자신이 가장 예쁘게 나온 셀카를 고른다.

방은 지저분하지만 사진에 나오는 부분은 골라서 지운다.

사람들은 자신의 삶에서 가장 보여주고 싶은 부분을 편집해서 올려왔고 앞으로 그렇게 될 것이다.

인간은 인정 욕구가 있는 존재이고 자신이 특별한 존재임을 과시하고 싶어 하는 존재이니까.

어쨌든 SNS는 처음부터 어느 정도 2차 가공이 된 현실이라 볼 수 있었다.

이제 AI는 거기서 한 단계 더 갔다.

예전에는 실제 인간이 자신의 현실을 편집했다면, 이제는 현실 자체가 없어도 된다는 것이다.

사람도 만들고,

몸도 만들고,

여행도 만들고,

집도 만들고,

꾸며진 하루도 만들 수 있다.

우리가 보던 ‘연출된 삶’에서 이제 ‘존재하지 않는 삶을 만드는’쪽으로 넘어가고 있는 셈이다.

더 이상한 건 AI끼리 슬롯생활을 한다는 것이다

나는 오히려 이쪽이 더 재미있다.

Moltbook이 생각이 나기도 한다.

AI 인플루언서 하나만 있다면 그냥 가상의 캐릭터라고 생각하면 된다.

그런데 여러 AI 계정이 서로 댓글을 달고, 서로 팔로우하고, 서로 반응하기 시작하면 이야기가 달라진다.

마치 SNS 팔로우 계정을 구매하거나 좋아요를 구매해서 강제로 인플루언서를 만드는 트릭을 보는 것 같다.

AI가 사진을 올리면, 다른 AI가 댓글을 달고,

“오늘도 너무 예뻐요.”

또 다른 AI가 답글을 단다.

“언니 분위기 진짜 최고.”

그리고 알고리즘으로 인해서 실제 사람들이 그걸 보게 된다.

SNS에서 댓글과 팔로워 숫자는 원래 슬롯적 증거였다.

사람들이 많이 보고 있다는 것.

사람들이 좋아한다는 것.

다른 사람들도 관심을 가지고 있다는 것.

그래서 우리도 관심을 갖게 된다.

그런데 그 ‘다른 사람’까지 만들어낼 수 있게 되었다.

이게 정말 예상했던 흐름이었지만 실제로 보고 있으니 신기하다.

콘텐츠만 생성하는 것이 아니라

인기까지 생성할 수 있게 되었다.

AI가 사람을 만들고, AI끼리의 관계를 만들고, 사람들의 반응을 이끌어 낸다.

좋아요일수도 있고, 댓글일 수 있다.

결국 실제 인간을 끌어들이는 것이 목표다.

재미있으면서도 기괴하다.

알고리즘에게는 진짜 인간인지 중요하지 않게 될지도

사실 알고리즘 입장에서 생각하면 더 단순하다.

이 계정이 실제 인간인지, 여행을 진짜 갔는지, 사진 속 몸이 실존하는지

이런 건 크게 중요하지 않다.

사람들이 얼마나 오래 보는가.

얼마나 많이 눌렀는가.

공유했는가.

댓글을 달았는가.

팔로우했는가.

이게 중요하다.

그러니까 어쩌면 AI 인플루언서는 SNS 알고리즘에 굉장히 잘 맞는 존재일 수도 있다.

사람보다 훨씬 빠르게 실험할 수 있다.

어떤 얼굴의 클릭률이 높은지, 어떤 몸매에서 사람들이 오래 머무는지, 어떤 옷에서 팔로우가 늘어나는지.

어느 정도 노출해야 신고를 당하지 않으면서 반응을 끌어낼 수 있는지.

계속 만들고, 올리고, 측정하고, 다시 만들면 된다.

이것들이 결국 쌓이면 데이터가 된다.

이걸 또 활용하게 되는 것이다.

결국 사람의 취향을 데이터로 만들어 가장 반응이 좋은 인간의 형태를 생산하는 것이다.

여기까지 오면 AI 인플루언서의 경쟁 상대가 인간 인플루언서인지도 잘 모르겠다.

브랜드 입장에서는 더 매력적일 수도 있다

조금 더 가면 광고 시장도 재미있어지는데, 브랜드 입장에서 인간 인플루언서는 항상 변수였다.

계약 기간이 있고, 몸값이 있고, 경쟁 브랜드 광고를 찍을 수도 있다.

갑자기 사고를 칠 수도 있고, 나이가 들면서 이미지가 바뀔 수도 있다.

그런데 브랜드가 AI 인플루언서를 직접 가지고 있다면 이야기가 달라지게 된다.

영원히 같은 나이를 유지할 수 있고, 토큰 비용만 커버 할 수 있다면 매일 촬영할 수 있다.

어느 나라든 보낼 수 있고, 옷을 수백 벌 입힐 수도 있다.

한국에서는 한국어로 말하고, 일본에서는 일본어로 말하고, 미국에서는 영어로 활동할 수도 있다.

스캔들도 없다. 피곤하다고 하지도 않는다. 광고 촬영 일정을 맞춰달라고 할 필요도 없다.

어쩌면 AI 인플루언서는 단순한 SNS 놀이에서 끝나는 것이 아니라

브랜드가 직접 소유할 수 있는 새로운 미디어 자산이 될 수도 있다는 뜻이다.

그렇게 생각하면 지금 피드에 출몰하는 AI 미남 미녀, 피싱 계정들은 이상한 인터넷 현상이 아니라 앞으로 올 광고 시장의 초기 모습일 것이라는 점을 생각해보게 된다.

결국 우리가 좋아했던 건 사람이었을까

그래서 다시 처음으로 돌아와서 생각해보면, 인간은 정말 사람을 팔로우했던 건가?

아니면 예쁜 얼굴을 팔로우했던 건가? 멋진 몸을 팔로우했던 건가? 가고 싶은 여행지를 팔로우했던 건가?

그저 부러운 삶을 팔로우했던 건가?

SNS에서 우리가 소비했던 것이 처음부터 사람 자체가 아니라 이미지였다면,

그냥 관측자의 입장에서 펼쳐낸 상상으로 애정을 만들어서 팬이 된 것이라면?

결국 연애계 산업과 비슷하다.

환상을 파는 것이다.

그 이미지를 만드는 주체가 인간에서 AI로 바뀌는 것은 생각보다 자연스러운 변화일 수도 있다.

오히려 AI는 인간보다 우리가 원하는 이미지를 더 정확하고 자극적이기도 하고 더 궁금하게 만들어낼 수 있게 되고 있다.

슬픈 이야기이지만, SNS는 사람과 사람을 연결하는 서비스로 시작했다.

'소셜네트워크' 라는 이름으로

그런데 이제는 가장 높은 반응을 만드는 이미지가 무엇인지 찾아가는 과정에서

더 이상 사람이 없어도 돌아가는 공간이 되어가고 있다.

AI가 사람처럼 행동하고, AI가 AI에게 댓글을 달고, 인간은 그 사이를 스크롤한다.

이것도 하나의 흐름처럼 느껴진다.

이제 AI에 몰렸던 자금들이 다른 곳으로 흘러갈지도

영화 써로게이트가 다시 생각이 난다.

GPT Astra 모델 출시 이후에 프론티어 AI 모델의 3대장들이 AI 개발 속도를 늦추자는 이야기를 하고 있다.

90년 동안 풀지 못한 수학난제를 88시간만에 풀었다고 하고 초파리의 신경망을 활용해서 새로운 도전들까지 나오고 있다.

나는 이 신호들을 이미 일반 인공지능 모델 1.0 버전이 완성이 되었다는 것으로 판단 하고 있다.

여기서 이제 반도체, 에너지, 데이터센터, STO, RWA 시장으로 자금이 흘러가지 않을까?

하는 생각을 하게 된다.

AI로 몰렸던 자금들이 이제는 다른 쪽으로 넘어가는 신호이지 않을까.