생성형 디자인 및 지식 도구에서 AI 모델 붕괴

홈 » Python » 생성형 디자인 및 지식 도구에서 AI 모델 붕괴

생성형 AI는 코딩, 글쓰기, 디자인 및 의사 결정에 있어 가장 많이 사용되는 도우미가 되었지만, 연구 커뮤니티 외부에서는 거의 아무도 이를 제대로 고려하지 않고 있다는 위험이 점점 커지고 있습니다. 이러한 시스템이 신선한 인간 데이터 대신 자체 합성 출력물로 점점 더 많이 훈련될 때 어떤 일이 발생하는가? 연구자들은 이러한 느린 자가 학습 루프를 명명했다. 모델 붕괴그리고 그 결과는 챗봇의 몇몇 잘못된 답변에 그치는 것이 아닙니다.

모델 붕괴 현상이 대규모 언어 모델(LLM) 및 그 안에서 사용되는 생성 시스템에 발생할 때 디자인 도구코딩 및 지식 노동 도구와 관련하여 문제는 단순히 정확도 손실뿐만 아니라 이러한 모델이 현실을 표현하는 방식의 구조적 저하에 있습니다. 드문 사건은 사라지고, 편견은 증폭되며, 창의성은 축소되고, 디지털 생태계 전체가 왜곡된 현실을 그대로 반영하기 시작합니다. 이러한 현상이 어떻게 발생하는지, 왜 일어나는지, 그리고 이를 예방하기 위해 무엇을 할 수 있는지 이해하는 것은 AI 제공업체, 규제 기관, 그리고 AI 기반 디자인 도구에 의존하는 모든 기업에게 전략적인 과제가 되었습니다.

연구자들이 말하는 "모델 붕괴"란 무엇인가?

머신러닝 분야에서 오랫동안 통용되어 온 격언은 AI 시스템의 성능은 학습에 사용되는 데이터의 질에 달려 있다는 것이며, 모델 붕괴란 해당 데이터가 현실 세계를 반영하지 못하고 AI가 생성한 콘텐츠로 가득 차게 될 때 발생하는 현상을 말합니다. 영국과 캐나다의 일리아 슈마일로프, 자하르 슈마일로프, 이렌 자오 및 공동 연구자들이 주도한 최근 연구에 따르면, 이전 세대의 결과물을 기반으로 반복적으로 미세 조정된 생성 모델은 돌이킬 수 없는 결함을 일으켜 실질적으로 사용할 수 없게 되는 것으로 나타났습니다.

이 메커니즘은 겉보기에는 매우 간단합니다. 새로운 모델이 실제 데이터와 이전 모델의 합성 데이터를 혼합하여 학습될 때마다 유용한 패턴뿐만 아니라 이전 모델의 오류와 편향까지 그대로 계승하게 됩니다.그런 다음 학습 과정은 자체적인 오류를 덧붙입니다. 반복이 거듭될수록 이러한 왜곡이 누적되어 학습된 분포는 인간과 현실 세계에서 얻은 원래 데이터 분포에서 점점 멀어집니다.

연구진은 실험을 통해 초기 모델 붕괴와 후기 모델 붕괴라는 두 가지 뚜렷한 단계를 관찰했습니다. 처음에는 모델이 분포의 꼬리 부분, 즉 드물고 빈도가 낮은 사례들을 "잊어버리는" 경향이 있지만, 일반적인 패턴에 대해서는 여전히 괜찮은 성능을 보입니다. 그러나 합성 데이터가 대부분을 차지하게 되면서 분포는 심각하게 왜곡되어 원래 데이터와는 전혀 다른 양상을 보이게 되고, 모델의 출력은 일관성이 없거나 무의미한 내용으로 변질됩니다.

이러한 현상은 특히 공개 웹 데이터를 기반으로 학습된 대규모 언어 모델에 있어 우려스러운 부분입니다. 현재 LLM(학습 모델)은 주로 웹사이트, 포럼, 코드 ​​저장소 및 출판물에서 수집한 사람이 작성한 텍스트를 학습 데이터로 사용합니다. 하지만 AI가 작성한 블로그 게시물, 기사, 문서, 코드 조각, 이미지, 심지어 연구 논문까지 웹에 넘쳐나면서, 향후 학습 과정에서는 기계가 생성한 합성 콘텐츠의 비중이 점점 더 커질 수밖에 없습니다.

이러한 자기 참조적 경향을 신중하게 제어하지 않으면 디자인 도구, 코딩 코파일럿 또는 콘텐츠 시스템에 사용되는 각 새로운 세대의 모델은 인간으로부터 배우는 것보다 과거 결과물의 불완전한 복사본으로부터 배우는 데 더 많은 것을 배우게 될 것입니다. 시간이 지남에 따라 모델이 현실을 충실하게 표현하고 예외적인 상황을 처리하는 능력은 점차 약화됩니다.

합성 데이터가 생성 모델에 손상을 주는 이유는 무엇일까요?

생성형 모델은 훈련 데이터를 그대로 재현하지 않습니다. 패턴을 확률 분포로 압축하는데, 이 압축 과정에서 공통적인 패턴은 강조되고 드문 패턴은 완화됩니다. 이러한 모델이 새로운 데이터를 생성할 때, 출력값은 극단값보다는 분포의 중심값 주변에 집중되는 경향이 있으므로, 합성 샘플은 모델이 학습한 원본 데이터보다 다양성과 풍부함이 떨어집니다.

슈마일로프의 팀은 이러한 직관을 공식화하고 합성 데이터에 대한 반복적인 훈련이 서로를 강화하는 세 가지 오류 계층을 도입한다는 것을 보여주었습니다. 모델은 항상 유한한 현실 샘플만 보기 때문에 통계적 근사 오차가 발생하고, 아키텍처가 복잡한 실제 분포를 완벽하게 표현할 수 없기 때문에 표현력 오차가 발생하며, 경사 하강법과 같은 최적화 방법은 이상적인 해를 근사적으로만 찾기 때문에 학습 오차가 발생합니다.

저자들은 간단한 확률 모델을 사용한 통제된 실험에서, 세대가 거듭될수록 모델이 확률이 낮은 사건에 대한 정보를 잃어버리고 퇴화된 분포로 수렴하는 방식을 보여주었습니다. 이산 분포에서는 모델이 하나의 과다하게 나타나는 값(일종의 델타 스파이크)으로 수렴하는 반면, 가우시안 분포에서는 분산이 0으로 줄어들어 변동성이 사라집니다.

그들은 Wikitext-2 데이터셋을 사용하여 OPT-125M 모델을 반복적으로 학습시킴으로써 언어 모델에 대한 분석을 확장했는데, 이때 각 새로운 학습 데이터셋에는 이전 학습에서 생성된 텍스트가 포함되었습니다. 성능이 점차 저하되었고, 모델은 지나치게 가능성이 높은 일반적인 순서로 치우치면서 이상하고 통계적으로 가능성이 낮은 조각들을 생성하기 시작했는데, 이는 이론에서 예측한 누적된 왜곡의 증상이었다.

실질적인 관점에서 보면, 이는 훈련 데이터에 합성 콘텐츠가 적당량만 포함되어도 모델이 완전히 붕괴되기 훨씬 전에 편향되거나 불안정한 동작을 보일 수 있음을 의미합니다. 희귀한 언어 형태, 소수 방언, 특이한 주제 또는 틈새 기술 패턴은 가장 먼저 사라지고, 합성 데이터 스트림에서 가장 흔한 것들이 과도하게 자리 잡게 됩니다.

디자인 도구, 코딩 도우미 및 전문 업무에 미치는 영향

모델 붕괴에 대한 우려는 추상적인 벤치마크에만 국한되지 않습니다. 이는 설계 도구, 프로그래밍 보조 도구 및 전문 서비스 운영 방식에 직접적인 영향을 미칩니다. 많은 조직에서는 이미 스프린트당 최소한 일부 사용자 스토리에 대해 AI 사용을 의무화하고 있으며, GitHub Copilot이나 Databricks 기반 도우미와 같은 시스템을 활용하여 코드를 작성하고, 모듈을 리팩토링하거나 아키텍처를 구상하고 있습니다.

즉각적인 생산성 향상은 분명합니다. 개발자들은 수백만 줄의 사람이 작성한 코드에서 학습한 패턴 덕분에 몇 시간씩 시간을 절약할 수 있습니다. 하지만 문제는 5년 또는 10년 후, 그 코드베이스의 상당 부분이 인공지능에 의해 제안되었을 때 어떤 일이 벌어질 것인가 하는 점입니다. 미래의 모델들이 AI가 생성한 코드 조각, 댓글, 정형화된 문구로 점점 더 가득 찬 저장소를 기반으로 집중적으로 학습한다면, 학습 과정은 지구적 규모에서 "쓰레기를 넣으면 쓰레기가 나온다"는 것과 같은 양상을 띠게 될 것입니다.

콘텐츠 및 디자인 워크플로우에서도 유사한 패턴이 나타나고 있습니다. 기업 블로그, 전문가 기고문, 제품 설명, 마케팅 이미지, 심지어 팟캐스트 스크립트까지 이제 ChatGPT와 같은 도구를 사용하여 자주 제작되거나 제작 과정을 크게 지원받고 있습니다. 쌍둥이자리 모델 또는 특수 디자인 AI. 이러한 합성 자산이 온라인에 게시되고 나중에 학습 데이터 세트에 입력되면 모델은 이미 평활화되고 평균화되었으며 때로는 오류가 있는 결과물로부터 학습합니다.

연구자들과 실무자들은 이를 흔히 AI 에코 챔버라고 부르거나, 한 전문가의 표현을 빌리자면 뱀이 자기 꼬리를 먹는 것과 같다고 설명합니다. 모델이 대부분 AI가 만든 콘텐츠만 소비하게 되면, 각 세대는 이전 세대가 도입한 편견과 단순화를 증폭시키고, 시스템은 실제 인간 표현의 복잡하지만 귀중한 다양성을 놓치게 됩니다.

전문 서비스 분야에서 이러한 피드백 루프는 또 다른 구조적 변화, 즉 컨설팅, 법률 및 감사 회사가 수십 년 동안 의존해 온 고전적인 레버리지 피라미드의 붕괴와 상호 작용합니다. 20세기 대부분 동안 대형 전략 및 전문 서비스 회사들은 수많은 주니어 분석가들이 데이터를 분석하고, 모델을 구축하고, 보고서를 작성하는 동안 소수의 파트너들이 대부분의 가치를 차지하는 비즈니스 모델을 운영했습니다.

생성형 AI가 컨설팅 업계의 "레버리지 피라미드"를 어떻게 평탄화하는가

컨설팅 피라미드의 경제적 기반은 간단했습니다. 노동 집약적인 분석 작업이 많기 때문에 대규모 주니어 팀을 운영하고 시간당 요금을 청구할 수 있었고, 수익성은 고객이 지불한 금액과 주니어 직원의 인건비 간의 차액에서 비롯되었습니다. 재무 모델 구축, 시장 개요 작성, SWOT 분석 수행 또는 고객용 자료 초안 작성과 같은 작업은 모두 시간이 많이 소요되지만 반복 가능하고 확장성이 뛰어납니다.

생성형 인공지능과 고급 자동화 기술은 엄청난 양의 인지 작업을 훨씬 적은 시간과 비용으로 처리함으로써 이러한 논리를 완전히 뒤집어 놓고 있습니다. MIT 슬론 경영대학원과 하버드 경영대학원의 분석가들은 생성형 도구가 구조화된 분석 작업에 소요되는 시간을 최대 80%까지 단축할 수 있으며, 이는 근본적으로 하위 직급의 대규모 팀에 대한 필요성을 약화시킨다는 것을 보여주었습니다.

조 노세라와 같은 평론가들은 한때 팀 전체가 몇 주 또는 몇 달을 걸리던 작업이 이제는 강력한 AI 비서를 갖춘 선임 컨설턴트가 몇 분 만에 개략적으로 설명할 수 있게 되었다고 지적하며, 이로 인해 많은 대형 기업들이 조용히 주니어 컨설턴트 채용을 줄이거나 애널리스트 비중이 높은 직책에서 해고를 시작하고 있다고 언급했습니다. 신입 사원 자리가 모두 사라지는 것은 아니지만, 하위 직급 인력을 많이 유지하는 경제적 타당성은 분명히 약화되고 있습니다.

동시에 고객과 정부 모두 시간 및 자재 기반 청구 방식에서 벗어나 측정 가능한 성과에 초점을 맞춘 가치 기반 계약으로 전환하도록 강력하게 요구하고 있습니다. 인공지능이 생산성을 향상시키면서, 기본적인 작업의 상당 부분을 자동화할 수 있게 되었는데도 수천 시간에 달하는 인력 비용을 청구하는 것은 정당화하기가 훨씬 어려워지고 있으며, 따라서 기존의 레버리지 공식이 무너지기 시작합니다.

결과적으로 전통적인 피라미드 구조는 점차 붕괴되고, 소규모 전문가 집단, 고위 전문가의 판단력과 강력한 AI 도구를 결합한 마이크로 팀과 같은 보다 효율적인 구조가 대두될 것입니다. AI 에이전트 팀또한, 많은 지원 인력 없이도 고품질의 결과물을 제공할 수 있는 독립적인 고위 전문가. 이러한 환경에서 진정한 가치는 더 이상 수많은 젊은 분석가들을 동원하는 능력에 있는 것이 아니라, 올바른 질문을 던지고, 해결책을 설계하며, 복잡하고 제약이 많은 환경을 헤쳐나가는 능력에 있습니다.

편향, 소수자 데이터 및 붕괴의 윤리

모델 붕괴의 가장 골치 아픈 측면 중 하나는 그 영향이 불균등하다는 점입니다. 모델 붕괴는 저주파 신호를 먼저 제거하는 경향이 있는데, 이는 실제로 소수, 예외적인 경우, 드문 시나리오를 의미하는 경우가 많습니다. 생성 모델은 "안전한" 평균에 치우친 확률적 기계이기 때문에, 생성된 결과물은 훈련 데이터에서 흔한 것을 과대 표현하고 드물지만 여전히 중요한 것을 과소 표현합니다.

연구원 에밀리 웬거가 지적했듯이, "개를 그려라"와 같은 간단한 이미지 생성 작업조차도 학습 데이터 세트에서 가장 흔한 품종, 예를 들어 골든 리트리버와 같은 품종으로 점차 치우치는 반면, 희귀 품종은 세대를 거듭할수록 거의 사라집니다. 언어 및 사회적 데이터로 해석될 때, 이러한 역학 관계는 이미 대표성이 부족한 집단을 더욱 소외시킬 수 있습니다.

LLM을 사용한 실험에 따르면, 초기 붕괴 단계에서는 모델이 완전히 무너지기 전에 소수 데이터나 저빈도 데이터에서 성능이 먼저 저하되는 것으로 나타났습니다. 이는 공정성과 포용성이 최종 사용자에게 붕괴가 명백해지기 훨씬 전에 위험에 처할 수 있으며, 설계 또는 의사 결정 과정에 내장된 도구가 특정 집단에게는 조용히 실패할 수 있음을 의미합니다.

정책적 차원에서 유럽 연합의 인공지능법은 데이터 품질, 지적 재산권, 프라이버시, 개인 데이터 보호 및 편향 완화를 강조함으로써 이러한 우려 사항들을 규제 체계에 직접적으로 반영합니다. 이 법률은 합성 데이터만으로는 고품질 모델을 보장할 수 없으며, AI 생성 콘텐츠를 훈련 자료에 부주의하게 혼합하는 것은 윤리적 원칙과 법적 의무 모두에 위배될 수 있음을 암묵적으로 인정하고 있습니다.

문화적, 인지적 차원도 있습니다. 사람들이 인공지능에 완전히 의존하여 자신의 글쓰기, 분석 또는 창의적 사고를 대체하게 되면 양쪽 모두 퇴보하게 됩니다. 인공지능 모델은 인간적인 뉘앙스를 제대로 반영하지 못하게 되고, 인간은 이러한 시스템을 비판적으로 사용하고 감독하는 데 필요한 핵심 역량을 잃을 위험에 처하게 됩니다. 현명하게 사용한다면 인공지능은 추론, 창의성, 문제 해결 능력을 향상시킬 수 있지만, 맹목적으로 의존한다면 상호 퇴보를 가속화할 수 있습니다.

데이터 부족, 합스부르크 AI, 그리고 자기 파괴적인 웹

최근 연구에서 반복적으로 관찰되는 점은 고품질의 인간 작성 텍스트, 이미지 및 코드는 무한한 자원이 아니라는 것입니다. 일부 예측에 따르면 대규모 모델 학습에 적합한 깨끗하고 다양하며 법적으로 사용 가능한 인간 저작 텍스트의 공급이 몇 년 안에 사실상 고갈될 수 있으며, 이로 인해 서비스 제공업체는 프리미엄 소스에 대한 독점적 접근권을 확보하지 못하는 한 합성 데이터에 더욱 의존하게 될 것이라고 합니다.

이것이 바로 AI 기업과 주요 출판사, 뉴스 기관 및 기타 권리 보유자 간에 콘텐츠 라이선스 계약이 활발하게 체결되는 이유 중 하나입니다. 스페인의 공공 자금으로 운영되는 ALIA 재단 모델과 같은 이니셔티브는 오염되었거나 품질이 낮은 자료를 기반으로 연구를 진행하는 것을 피하려면 최고 수준의 잘 정리된 인체 데이터 세트를 확보하는 것이 전략적 우선순위라는 점을 명시적으로 인식하고 있습니다.

동시에 인터넷은 AI가 생성한 콘텐츠로 빠르게 포화되고 있습니다. 기업 블로그, 소셜 미디어 게시물, SEO 관련 글, 스톡 이미지, 심지어 학술적으로 보이는 논문까지 생성 시스템이 제작하거나 대필한 것들이 넘쳐납니다. 미래의 LLM과 생성 도구들이 필연적으로 동일한 웹 데이터를 수집하게 될 것이므로, 인간의 데이터와 합성 데이터의 구분은 점점 모호해질 것입니다.

연구자 자탄 사도스키는 반복적인 자가 번식으로 인해 변형된 시스템, 마치 과도한 근친교배로 고통받는 계보와 같은 개념을 포착하기 위해 "합스부르크 AI"라는 용어를 만들었으며, 이 개념은 전문가들 사이에서 모델 붕괴를 나타내는 약어로 자리 잡았습니다. 합성 데이터의 양이 얼마나 되어야 과도한지, 그리고 그 임계점이 어디에 있는지는 여전히 의문으로 남아 있습니다. 현재까지의 연구 결과는 모델 크기, 아키텍처, 학습 방식, 그리고 실제 및 합성 샘플의 품질에 따라 크게 달라진다는 것을 시사합니다.

현재로서는 합성 데이터 자체가 본질적으로 나쁘다는 것이 아니라, 출처 추적, 균형 조정 및 품질 관리 없이 AI 출력물을 필터링 없이 대규모로 학습 파이프라인에 재활용하는 것은 장기적인 성능 저하를 초래할 수 있다는 것이 일반적인 의견입니다. 신중하게 사용하고 신뢰할 수 있는 인간 데이터와 결합하면 합성 샘플은 때때로 도움이 될 수 있지만, 현실을 값싼 대용품으로 사용하면 붕괴를 초래합니다.

붕괴를 막기 위한 기술 및 거버넌스 전략

연구원과 업계 실무자들은 특히 설계 도구 및 기업 워크플로에 깊이 내장된 시스템의 경우 모델 붕괴를 완화하거나 지연시키는 방법을 적극적으로 모색하고 있습니다. 학술 논문과 산업 현장 모두에서 여러 가지 상호 보완적인 전략들이 등장하고 있다.

첫 번째 핵심 요소는 엄격한 데이터 출처 추적 및 콘텐츠 워터마킹입니다. 구글, 오픈AI, 메타와 같은 대형 제공업체들은 이미 생성된 결과물에 워터마크를 삽입하거나 삽입하는 실험을 진행하고 있어, 향후 학습 파이프라인에서 합성 콘텐츠를 식별하고 필터링할 수 있도록 하고 있습니다. 이러한 방식이 생태계 규모에서 효과적으로 작동하려면, 다른 모델 학습 도구들이 합성 콘텐츠를 안정적으로 배제하거나 가중치를 낮출 수 있도록 해당 워터마크(또는 최소한 워터마크 탐지 방법)를 공유하거나 표준화해야 합니다.

두 번째 핵심은 원본 인간 데이터 소스에 대한 접근성을 보존하고 확대하는 것입니다. 아카이브, 뉴스룸, 선별된 코퍼스, 도메인별 데이터베이스 및 고품질 코드 저장소는 유지 관리, 라이선스 부여 및 주기적인 업데이트가 필요합니다. 다양하고 풍부한 인간 데이터의 지속적인 유입 없이는 아무리 좋은 의도의 완화 조치라도 합성 데이터의 지배로의 추세를 막을 수 없습니다.

셋째, 여러 연구에 따르면 합성 데이터와 원본 데이터를 신중하게 혼합하면 붕괴의 파괴적인 단계를 완화하거나 지연시킬 수 있지만 위험을 완전히 제거할 수는 없습니다. 핵심은 합성 데이터를 선택적으로 활용하는 것입니다. 예를 들어, 계층 균형을 맞추거나, 드문 시나리오를 탐색하거나, 과소 대표되는 구조를 보강하는 데 사용하면서, 인간 데이터를 분포의 기준으로 삼는 것입니다.

검색 증강 생성(RAG)은 모델 매개변수를 사실적 지식으로부터 최대한 분리함으로써 강력한 보호 계층을 추가합니다. RAG(Research-Assisted Gradient) 방식에서는 생성 모델이 추론 시점에 외부의 검증된 지식 기반(문서, 데이터베이스, 디자인 라이브러리, 코드베이스)을 참조하고, 학습 중에 암기한 내용에만 의존하는 대신 검색된 증거를 바탕으로 응답을 도출합니다.

아마존과 같은 클라우드 제공업체는 RAG를 LLM 출력 최적화 방법으로 설명하며, LLM이 답변을 생성하기 전에 학습 코퍼스 외부의 권위 있는 출처를 참조하도록 강제하는 방식이라고 합니다. RAG는 ​​생성 모델의 예측 불가능성을 완전히 제거하지는 못하지만, 최신 인간 지식에 기반하여 출력을 고정함으로써 환각 현상을 크게 줄이고 표현의 왜곡으로 인한 영향을 완화할 수 있습니다.

마지막으로, 일부 전문가들은 훈련 파이프라인에서 주기적인 "재설정"을 권장합니다. 새로운 합성 데이터로 오염된 혼합물에 대해 끊임없이 미세 조정을 하는 대신, 조직은 새로 수집된, 주로 인간 데이터 세트를 사용하여 핵심 모델을 주기적으로 재훈련하거나 갱신할 수 있습니다. 이 접근 방식은 비용이 더 많이 들고 기술적으로 더 까다롭지만, 붕괴를 특징짓는 누적적인 왜곡을 상쇄하는 데 도움이 됩니다.

규제, 책임, 그리고 인간과 AI 협업의 미래

EU 인공지능법의 발표와 유사한 규제 노력은 모델 붕괴가 단순히 기술적인 문제가 아니라 거버넌스 및 사회적인 문제임을 강조합니다. 입법자들은 이제 모델 제공업체가 데이터 출처를 문서화하고, 지적 재산권을 존중하고, 개인 데이터를 보호하고, 편향과 공정성 문제를 적극적으로 해결할 것을 기대합니다. 하지만 훈련 데이터 세트가 추적 불가능한 합성 콘텐츠로 가득 차 있다면 이러한 요구 사항을 충족하기가 더 어려워집니다.

설계, 소프트웨어 개발 및 전문 서비스에 AI를 도입하는 기업의 경우, 공급업체 실사 시 모델 품질 지표를 넘어 데이터 거버넌스, 출처 추적 및 합성 데이터 정책에 대한 질문까지 포함해야 합니다. "데이터가 많을수록 항상 좋다"는 생각을 맹목적으로 갖는 것은, 그 추가적인 테라바이트 데이터가 대부분 자체적으로 생성된 노이즈라면 오히려 역효과를 초래할 수 있습니다.

개인적인 측면에서, 전문가들이 생성형 AI를 사용하는 방식은 모델의 발전과 전문가 자신의 역량 모두에 영향을 미칠 것입니다. 글쓰기, 분석 또는 디자인 작업을 완전히 외주화하기 위해 AI를 사용하는 것과, AI를 사고의 파트너로 활용하여 창의성을 확장하고, 아이디어를 테스트하고, 탐색 속도를 높이는 동시에 최종 결과물에 대한 인간의 판단을 유지하는 것 사이에는 결정적인 차이가 있습니다.

인공지능 전문가들은 우리가 모델에 의해 대체되는 것이 아니라 오히려 모델이 우리를 보완하도록 내버려 둔다면 두 가지 측면에서 퇴보할 위험이 있다고 강조합니다. 하나는 점점 더 인공적이고 노력이 덜 드는 콘텐츠로 훈련된 시스템이 되는 것이고, 다른 하나는 깊이 있는 추론, 신중한 읽기, 의도적인 창조 습관을 잃어버리는 인간입니다. 인공지능이 우리를 파멸의 길로 이끌지 않고 유용하게 활용되려면, 비판적 사고라는 측면에서 인간이 도구보다 "우위에" 있다는 점을 확고히 유지하는 것이 필수적입니다.

궁극적으로, 특히 디자인 도구와 지식 노동 플랫폼에 내장된 AI 엔진의 모델 붕괴를 막으려면 기술적 해결책, 규제 압력, 그리고 디지털 콘텐츠를 만들고 소비하는 방식의 문화적 변화가 복합적으로 필요할 것입니다. 데이터 출처가 추적되고, 인간이 생성한 데이터가 가치 있게 여겨지고 보호되며, 합성 데이터가 신중하게 사용되고, 인공지능이 인간 인지 능력을 대체하는 것이 아니라 증폭시키는 역할을 한다면, 자기 참조적인 무의미함에 빠지지 않고 관련성 있고 공정하며 정확한 모델을 구축할 수 있는 분명한 길이 여전히 존재합니다.