생성형 인공지능

주요 생성형 AI

대화 · 검색 · AI 에이전트

ChatGPT OpenAI	Claude Anthropic
Gemini Google	Grok xAI
Muse Meta	Microsoft Copilot Microsoft
Perplexity Perplexity AI	DeepSeek DeepSeek
Le Chat Mistral AI	Qwen Alibaba
Meta AI Meta	Character.AI Character Technologies
Kimi Moonshot AI	Doubao ByteDance

이미지 생성 · 편집

Midjourney Midjourney	Adobe Firefly Adobe
Stable Diffusion Stability AI	FLUX Black Forest Labs

영상 생성

Runway Runway	Google Flow Google
Kling AI Kuaishou	Veo Google DeepMind

음악 · 음성 생성

Suno Suno

Udio Udio

프로그래밍 · 코딩 에이전트

GitHub Copilot GitHub · Microsoft	Cursor Anysphere
Claude Code Anthropic	Codex OpenAI

대표적인 생성형 AI 서비스·모델·도구를 분야별로 정리한 목록입니다.
같은 기업의 제품이라도 독립된 서비스 또는 모델인 경우 별도 항목으로 표시합니다.
※ 모든 서비스가 모든 국가에서 동일한 기능을 제공하는 것은 아닙니다.

이 문서는 기계에 대해 다룹니다.

이 글에서는 공머생들이 좋아하는 기계가 나옵니다.
만약에 기계가 고장났을 땐 고물상에 가서 엿으로 바꿔 먹읍시다.

이 문서는 이과가 작성했거나, 또는 이과에 대해 다룹니다.

무슨 생각으로 작성한 건지는 잘 모르겠습니다만 맞는말임은 틀림 없습니다.
이과는 아다를 못 떼 마법을 쓰니까 말이죠...

생성형 인공지능 Generative Artificial Intelligence
분류	인공지능, 기계학습, 딥러닝
관련 개념	대규모 언어 모델, 멀티모달 AI, AI 에이전트
다른 이름	생성형 AI, Generative AI, GenAI
대중화	2022년 이미지 생성 AI 및 ChatGPT의 확산
대표 서비스	ChatGPT, Claude, Gemini, Midjourney, 스테이블 디퓨전 등
추가 정보 (4개) 생성 대상 텍스트, 이미지, 음성, 음악, 동영상, 프로그램 코드 등 정의 학습한 데이터의 구조와 패턴을 바탕으로 새로운 콘텐츠를 생성하는 인공지능 주요 기술 트랜스포머, 생성적 적대 신경망, 변분 오토인코더, 확산 모델 주요 활용 글쓰기, 프로그래밍, 디자인, 교육, 연구, 업무자동화

생성형 인공지능(生成型 人工知能, Generative Artificial Intelligence)은 학습한 데이터의 특징과 패턴을 바탕으로 글, 그림, 음악, 음성, 동영상, 프로그램 코드 등 새로운 콘텐츠를 생성하는 인공지능 기술이다. 영어 표현을 줄여 생성형 AI 또는 GenAI라고 부른다.

예전 인공지능이 “고양이 사진입니다” 하고 분류하던 놈이었다면, 생성형 AI는 “고양이가 중세 기사 갑옷을 입고 월요일 출근을 거부하는 그림입니다” 같은 걸 만들어내는 놈이다.

인간이 시키면 뭔가 만든다. 가끔은 잘 만들고, 가끔은 자신 있게 헛소리한다.

대표적인 서비스로는 ChatGPT, Claude, Gemini, Midjourney, 스테이블 디퓨전 등이 있다.

2022년 11월 ChatGPT가 공개된 이후 일반 대중에게도 널리 알려지기 시작했으며, 2020년대 중반에는 여러 도구와 프로그램을 직접 활용해 업무를 수행하는 AI 에이전트로 활용 범위가 확대되고 있다.

물론 생성형 AI가 그럴듯한 문장과 이미지를 만든다고 해서 그 내용이 반드시 사실이라는 뜻은 아니다.

잘 쓰면 조수고, 못 쓰면 헛소리 자동완성기다.

개요

생성형 AI는 기존 데이터를 학습해서 새로운 결과물을 만들어내는 AI를 말한다.

대표적으로 대화형 AI, 이미지 생성 AI, 음악 생성 AI, 영상 생성 AI, 코드 생성 AI 등이 있다.

쉽게 말하면 인터넷과 책과 그림과 코드와 온갖 자료를 먹고 자란 기계 앵무새 겸 조수 겸 사기꾼 감별 난이도 최상급 도구다.

문제는 이놈이 진짜로 “이해”하는지, 아니면 이해하는 척을 매우 잘하는지는 아직도 철학자와 개발자와 트위터 유저들이 싸우고 있다는 점이다.

경제협력개발기구(OECD)는 생성형 인공지능을 텍스트와 이미지, 동영상 및 음악 등 새로운 콘텐츠를 생성할 수 있는 인공지능의 한 종류로 설명한다.

생성형 AI의 가장 큰 특징은 이용자가 자연어로 요청한 내용을 바탕으로 새로운 결과물을 제작할 수 있다는 것이다.

예를 들어 다음과 같은 작업이 가능하다.

• 여행계획을 요청하면 일정을 작성한다.
• 특정한 분위기의 그림을 요청하면 이미지를 생성한다.
• 이메일 작성을 부탁하면 초안을 만들어준다.
• 프로그래밍 문제를 설명하면 코드를 작성한다.
• 긴 문서를 입력하면 핵심 내용을 요약한다.
• 데이터를 제공하면 그래프를 만들고 분석 결과를 설명한다.
• 외부 도구와 연결하면 파일 수정이나 여러 단계의 업무도 수행할 수 있다.

옛날에는 글을 쓰려면 일단 커서 앞에서 고통받아야 했다. 이제는 AI에게 초안을 맡기고, 인간은 “음 이건 좀 아닌데” 하면서 수정하는 감독 포지션이 가능해졌다.

물론 감독도 아무 생각이 없으면 망한다. AI가 만든 쓰레기를 사람이 그대로 제출하면 그냥 고급 자동 쓰레기 배출 시스템이 된다.

생성형 AI의 이용은 2020년대 들어 빠르게 확대됐다. 특히 2026년 현재 교육과 금융, 의료, 제조업, 소프트웨어 개발 및 콘텐츠 산업 등 여러 분야에서 활용되고 있다.

그러나 생성형 AI가 새로운 콘텐츠를 제작할 수 있다는 사실만으로 실제 세계에 관한 모든 정보를 정확하게 이해하거나 인간과 같은 방식으로 사고한다는 의미는 아니다.

특히 존재하지 않는 정보를 그럴듯하게 만들어내는 환각 현상, 학습데이터의 편향, 개인정보 보호, 저작권 및 악의적인 이용에 관한 문제도 존재한다.

특징

새로운 콘텐츠 생성

생성형 AI의 가장 큰 특징은 결과물을 만든다는 것이다.

일반적인 검색엔진은 기존에 있는 정보를 찾아준다. 생성형 AI는 사용자의 요청에 맞춰 새로운 문장이나 이미지 등을 만들어준다.

그래서 사용자는 “찾는 사람”에서 “시키는 사람”이 된다.

예를 들어 기존의 검색엔진에서 특정 지역의 여행정보를 찾으려면 여러 웹페이지를 방문해서 내용을 비교해야 한다.

반면 생성형 AI에는 “도쿄에서 3박 4일 동안 여행할 계획을 짜줘”라고 요청하면 하나의 여행일정을 작성하도록 할 수 있다.

다만 생성형 AI가 작성한 여행일정에 실제로 존재하지 않는 식당이나 잘못된 운영시간이 포함될 수도 있다.

따라서 새로운 결과물을 생성한다는 사실과 사실을 정확하게 찾아낸다는 사실은 구분해야 한다.

자연어로 작업 요청

생성형 AI의 또 다른 특징은 사람이 일상적으로 사용하는 언어로 작업을 요청할 수 있다는 것이다.

과거에는 프로그램을 이용하여 특정한 작업을 수행하려면 해당 프로그램의 사용법이나 명령어를 알아야 하는 경우가 많았다.

반면 생성형 AI는 이용자가 작업 내용을 자연어로 설명하면 이를 바탕으로 적절한 결과물을 생성할 수 있다.

예를 들어 프로그래밍 언어를 잘 모르는 사람도 “이 엑셀 파일에서 월별 매출을 집계하는 코드를 만들어줘”라고 요청할 수 있다.

그러나 자연어로 작성한 요청이 모호하거나 필요한 정보가 부족하면 결과물 역시 부정확할 수 있다.

또한 AI가 작성한 코드나 분석 결과는 실제 사용하기 전에 검토해야 한다.

장점

생산성이 크게 올라갈 수 있다.

문서 초안, 번역, 요약, 코드 작성, 아이디어 정리, 이미지 시안 제작 같은 작업을 빠르게 처리할 수 있다.

특히 빈 화면을 보고 멍하니 있는 시간을 줄여준다.

창작에서도 쓸모가 많다. 글의 구조를 잡거나, 그림 콘셉트를 만들거나, 캐릭터 설정을 짜거나, 자료를 정리하는 데 꽤 유용하다.

한마디로 혼자 일하는 사람에게는 싸고 빠른 조수다. 다만 월급을 안 줘도 되는 대신, 가끔 말도 안 되는 보고서를 들고 와서 사람 혈압을 올린다.

생성형 AI의 장점은 다음과 같이 정리할 수 있다.

• 반복적인 작업에 필요한 시간을 줄일 수 있다.
• 전문적인 프로그램을 잘 모르는 이용자도 다양한 작업을 시도할 수 있다.
• 여러 자료를 빠르게 정리하고 요약할 수 있다.
• 창작과 기획에서 다양한 아이디어를 제시할 수 있다.
• 번역과 설명을 통해 지식과 정보의 접근성을 높일 수 있다.
• 외부 도구와 결합하면 복잡한 작업의 일부를 자동화할 수 있다.

그러나 실제 생산성 향상은 업무의 성격과 이용자의 숙련도, 입력자료의 품질 및 결과물의 검토과정에 따라 달라진다.

단점

가장 유명한 단점은 환각이다.

모르는 것을 모른다고 하지 않고, 그럴듯하게 지어내는 경우가 있다. 이게 진짜 골때리는 부분이다. 틀린 답이면 티라도 나야 하는데, 문장력이 좋아서 더 위험하다.

즉 생성형 AI는 똑똑한 바보가 될 수 있다. 아는 척을 너무 잘하는 신입사원 같은 존재다.

또한 저작권 문제도 있다. 학습데이터에 어떤 자료가 들어갔는지, 생성물이 기존 창작물과 얼마나 닮았는지, 누구의 권리를 침해하는지에 대한 논쟁이 계속된다.

편향 문제도 있다. AI는 하늘에서 떨어진 순수한 지성이 아니라 인간이 만든 데이터를 먹고 자랐다. 인간 사회가 이상하면 AI도 그 이상함을 배운다.

이 밖에도 개인정보 유출과 악성코드 생성, 허위정보 확산, 딥페이크 및 에너지 소비 등의 문제가 있다.

생성형 AI와 판별형 AI

기존의 많은 인공지능은 입력된 자료를 분류하거나 예측하는 데 중점을 두었다.

예를 들어 이메일이 스팸인지 판단하거나 사진에 고양이가 있는지 확인하고, 고객이 특정한 상품을 구매할 가능성을 예측하는 방식이다.

이를 일반적으로 판별형 인공지능(Discriminative AI) 또는 예측형 인공지능의 사례로 설명할 수 있다.

반면 생성형 인공지능은 새로운 결과물을 만들어내는 데 중점을 둔다.

구분	판별형·예측형 AI	생성형 AI
주요 목적	분류와 예측	새로운 콘텐츠 생성
입력	데이터와 특징	질문, 지시문, 이미지 등
출력	분류결과, 확률, 예측값	문장, 그림, 음성, 영상, 코드 등
예시	스팸메일 탐지, 사기거래 예측	이메일 작성, 그림 생성
대표적인 기술	분류모델, 회귀모델 등	대규모 언어 모델, 확산 모델 등

예를 들어 고객의 신용정보를 분석하여 대출 부도 가능성을 예측하는 AI는 예측형 인공지능의 사례다.

반면 같은 고객의 재무자료를 읽고 대출심사 보고서의 초안을 작성하는 AI는 생성형 인공지능의 사례다.

다만 두 가지 기술이 완전히 분리되어 있는 것은 아니다. 하나의 AI 서비스 안에서 예측과 분류, 콘텐츠 생성이 함께 사용될 수 있다.

검색엔진과의 차이

검색엔진은 링크를 보여준다. 생성형 AI는 답을 만들어준다.

이 차이가 꽤 크다.

검색엔진을 쓰면 사용자가 여러 사이트를 보고 비교해야 한다. 생성형 AI를 쓰면 사용자는 바로 정리된 답을 받는다.

편하긴 하다. 하지만 그 답이 틀렸을 때 사용자가 눈치채기 어렵다는 문제가 있다.

검색엔진은 최소한 “내가 이 링크에서 봤다”고 말할 수 있다. 생성형 AI는 가끔 “내가 방금 상상했다”에 가까운 답을 내놓고도 표정 하나 바꾸지 않는다. 기계라서 표정이 없기 때문이다.

다만 생성형 AI가 반드시 인터넷을 실시간으로 검색하지는 않는다.

특히 외부 검색도구를 사용하지 않는 언어 모델은 학습과정에서 습득한 정보를 바탕으로 답변하므로 최신 사건이나 변경된 정보를 알지 못할 수 있다.

이를 보완하기 위해 생성형 AI에 검색기능을 결합하거나, 외부 자료를 검색한 뒤 그 내용을 바탕으로 답변하는 검색 증강 생성(RAG) 기술을 사용하기도 한다.

또한 최근의 검색엔진 자체에도 생성형 AI를 이용한 요약과 답변 기능이 탑재되고 있으므로 양쪽의 구분이 점차 모호해지고 있다.

인공 일반 지능과의 차이

인공 일반 지능(Artificial General Intelligence, AGI)은 인간이 수행하는 다양한 지적 업무를 폭넓게 수행할 수 있는 인공지능을 가리키는 개념이다.

반면 생성형 AI는 새로운 콘텐츠를 생성하는 기술의 종류를 의미한다.

따라서 생성형 AI와 AGI는 같은 개념이 아니다.

특히 대규모 언어 모델이 다양한 질문에 답변하거나 복잡한 작업을 수행한다는 사실만으로 AGI를 달성했다고 단정할 수는 없다.

AGI의 정의와 평가기준 자체도 연구자와 기관에 따라 차이가 있다.

역사

초기 생성모델

생성형 인공지능의 역사는 2022년 ChatGPT의 등장보다 훨씬 오래되었다.

통계학과 기계학습에서는 오래전부터 데이터가 생성되는 확률적인 구조를 학습하고, 이를 이용하여 새로운 표본을 생성하는 방법을 연구해 왔다.

이러한 연구는 현대 생성형 인공지능의 이론적인 기반 가운데 하나다.

그러나 초기 생성모델은 오늘날의 대규모 언어 모델처럼 다양한 자연어 요청을 처리하거나 고품질의 이미지를 생성하는 수준에 도달하지는 못했다.

2013년 변분 오토인코더

2013년 디데릭 킹마(Diederik P. Kingma)와 막스 웰링(Max Welling)은 변분 오토인코더와 관련된 연구논문을 공개했다.

변분 오토인코더(Variational Autoencoder, VAE)는 데이터의 잠재적인 구조를 학습하여 새로운 데이터를 생성할 수 있는 모델이다.

복잡한 데이터를 잠재공간으로 표현하고 그 잠재공간에서 표본을 추출하여 새로운 데이터를 만들어내는 방식으로 이해할 수 있다.

이러한 기술은 이후 다양한 생성모델 연구에 영향을 주었다.

2014년 생성적 적대 신경망

2014년 이언 굿펠로(Ian Goodfellow) 등의 연구자들이 생성적 적대 신경망(Generative Adversarial Network, GAN)을 발표했다.

GAN은 새로운 데이터를 만드는 생성자와 해당 데이터가 진짜인지 판별하는 판별자를 경쟁적으로 학습시키는 방식이다.

쉽게 설명하면 가짜 그림을 만드는 놈과 그 그림이 가짜인지 맞히는 놈을 서로 경쟁시키는 구조다.

생성자는 판별자를 속일 수 있도록 더욱 정교한 결과물을 만들고, 판별자는 가짜를 더욱 정확하게 구별하도록 학습한다.

이러한 방식은 이미지 합성과 사진 생성 등 여러 분야에서 중요한 발전을 이끌었다.

2017년 트랜스포머

2017년 구글 연구자들이 《Attention Is All You Need》라는 논문을 발표했다.

이 논문에서는 트랜스포머(Transformer)라는 신경망 구조를 제안했다.

트랜스포머는 어텐션(Attention) 메커니즘을 이용하여 입력된 정보 사이의 관계를 계산한다.

특히 기존 순환신경망보다 병렬처리에 유리한 구조를 제공하면서 대규모 언어 모델의 발전에 중요한 영향을 미쳤다.

이후 GPT와 BERT 등 여러 자연어처리 모델에서 트랜스포머 계열 구조가 활용되었다.

다만 트랜스포머 자체가 반드시 생성형 AI만을 위해 사용되는 것은 아니다. 분류와 정보추출 등 다른 자연어처리 작업에도 활용된다.

2020년대 확산 모델

2020년대에는 확산 모델(Diffusion Model)이 이미지 생성 분야에서 큰 주목을 받았다.

확산 모델은 데이터에 점진적으로 노이즈를 추가하는 과정을 학습하고, 다시 노이즈를 제거하는 방식으로 새로운 데이터를 생성할 수 있다.

쉽게 말하면 잡음으로 가득한 화면에서 조금씩 잡음을 제거하며 그림을 만들어내는 방식이다.

2020년 조너선 호(Jonathan Ho) 등의 연구자들은 확산확률모델을 이용한 고품질 이미지 생성 연구를 발표했다.

이후 확산 모델은 텍스트를 이용한 이미지 생성과 영상 생성 등 여러 분야에서 활용됐다.

2022년 이미지 생성 AI의 대중화

2022년에는 이미지 생성 AI가 일반 이용자들에게 널리 알려지기 시작했다.

특히 DALL·E 2, Midjourney, 스테이블 디퓨전 등이 대표적인 사례다.

이들 서비스는 사용자가 자연어로 원하는 그림을 설명하면 해당 설명을 바탕으로 새로운 이미지를 생성할 수 있도록 했다.

특히 스테이블 디퓨전은 2022년 8월 공개되면서 개발자들이 다양한 이미지 생성도구를 제작하는 데 영향을 주었다.

이 시기부터 그림을 직접 그리지 못하는 사람도 AI를 이용하여 상당한 수준의 이미지를 제작할 수 있게 됐다.

2022년 ChatGPT 등장

2022년 11월 30일 OpenAI가 ChatGPT를 공개했다.

ChatGPT는 자연어로 질문하면 대화형으로 답변하는 생성형 인공지능 서비스다.

특히 기존의 언어 모델을 일반적인 채팅 인터페이스와 결합하여 누구나 쉽게 이용할 수 있도록 했다는 점에서 중요한 의미가 있다.

이후 ChatGPT는 글쓰기와 번역, 프로그래밍, 자료분석 및 질문답변 등에 활용되면서 빠르게 대중화됐다.

2022년의 ChatGPT 공개는 생성형 AI가 연구기관과 전문 개발자를 넘어 일반적인 인터넷 이용자에게 확산되는 중요한 전환점이 됐다.

2023년 이후 경쟁 확대

2023년에는 Anthropic의 Claude와 구글의 Bard 등 여러 대화형 인공지능 서비스가 공개됐다.

이후 구글은 Bard를 Gemini라는 브랜드로 개편했으며, 여러 기업들이 자체적인 언어 모델과 서비스를 개발하기 시작했다.

또한 이미지 생성뿐 아니라 음악과 음성, 영상, 프로그램 코드를 생성하는 기술도 발전했다.

2024년 이후에는 여러 종류의 입력을 함께 처리하는 멀티모달 AI와 복잡한 추론을 수행하도록 훈련된 모델이 중요한 발전분야로 부상했다.

2025~2026년 AI 에이전트 확산

2025년 이후 생성형 AI는 단순히 콘텐츠를 만들어내는 것에서 나아가 실제 작업을 수행하는 방향으로 발전하고 있다.

특히 AI 에이전트는 외부 도구와 데이터를 이용하여 여러 단계의 작업을 수행할 수 있다.

대표적인 활용으로는 프로그램 코드 수정과 테스트, 자료조사, 문서작성, 파일 처리, 이메일 및 일정관리 등이 있다.

2026년 스탠퍼드대학교의 AI Index 보고서는 생성형 AI의 이용이 빠르게 확산되고 있으며, AI 에이전트의 실제 컴퓨터 사용능력도 향상되고 있다고 분석했다.

특히 OSWorld라는 컴퓨터 사용 평가에서 AI 에이전트의 작업 성공률이 2025년 약 66% 수준까지 올라갔지만, 여전히 상당한 실패율이 나타났다.

따라서 AI가 실제 업무를 수행할 수 있는 범위는 확대되고 있지만, 사람의 검토와 감독이 불필요해졌다고 보기는 어렵다.

작동 원리

학습데이터

생성형 AI는 대량의 데이터를 이용하여 학습한다.

예를 들어 언어 모델은 책과 문서, 웹페이지, 프로그램 코드 등 여러 형태의 텍스트 데이터를 학습할 수 있다.

이미지 생성모델은 사진과 그림, 관련 설명 등의 데이터를 이용하며, 음성 및 음악 생성모델은 오디오 데이터를 활용한다.

이 과정에서 모델은 데이터 사이의 복잡한 관계와 패턴을 나타내는 내부 매개변수를 학습한다.

다만 학습데이터의 단순한 목록을 통째로 저장하는 방식과는 다르다고 해서 특정한 자료를 전혀 암기하지 않는다는 뜻은 아니다.

실제로 일부 모델에서는 학습자료의 특정 표현과 개인정보 등이 출력에 재현되는 문제가 발생할 수 있다.

토큰

대규모 언어 모델에서는 텍스트를 일반적으로 토큰(Token)이라는 단위로 나누어 처리한다.

토큰은 글자 하나 또는 단어 하나와 반드시 일치하지 않는다.

예를 들어 하나의 단어가 여러 토큰으로 나뉘거나 짧은 단어와 문장부호가 별도의 토큰으로 처리될 수 있다.

또한 한국어와 영어 등 언어에 따라 토큰이 나뉘는 방식에 차이가 있다.

언어 모델은 이러한 토큰들의 관계를 이용하여 다음에 생성할 토큰을 계산한다.

다음 토큰 예측

많은 대규모 언어 모델은 앞에 등장한 토큰들을 바탕으로 다음에 등장할 토큰의 확률분포를 예측하는 방식으로 학습한다.

예를 들어 다음과 같은 문장을 입력했다고 가정하자.

“

대한민국의 수도는

”

언어 모델은 앞의 문맥과 학습한 정보를 바탕으로 다음에 등장할 가능성이 높은 표현을 계산한다.

이 경우 '서울'이라는 표현이 높은 확률을 가질 수 있다.

이러한 계산을 반복하면서 하나의 문장과 문단, 긴 문서까지 생성한다.

그러나 실제 언어 모델의 작동은 단순한 단어 이어쓰기보다 훨씬 복잡하다.

특히 트랜스포머는 입력된 여러 토큰 사이의 관계와 문맥을 계산하며, 대규모 학습과 추가적인 훈련을 통해 다양한 문제해결 능력을 나타낼 수 있다.

또한 모든 생성형 AI가 다음 토큰 예측방식으로만 작동하는 것은 아니다.

이미지와 영상 생성모델 등은 확산 모델을 비롯한 다른 생성방식을 사용할 수 있다.

사전학습

사전학습(Pre-training)은 대량의 데이터를 이용하여 모델의 기본적인 능력을 형성하는 단계다.

특히 언어 모델은 다양한 문장과 문서 등을 학습하면서 언어의 구조와 패턴을 익힌다.

코드와 수학, 과학 및 여러 분야의 자료를 학습하면서 다양한 작업에 활용할 수 있는 능력을 형성하기도 한다.

그러나 사전학습만 마친 모델이 이용자의 지시를 항상 적절하게 따르는 것은 아니다.

이에 따라 지시문을 이해하고 응답하는 능력을 개선하기 위한 추가학습이 이루어질 수 있다.

추가학습과 정렬

추가학습(Post-training)은 사전학습을 마친 모델의 행동과 성능을 개선하는 과정이다.

대표적인 방법으로는 지도 미세조정과 인간 피드백을 활용한 강화학습 등이 있다.

특히 RLHF(Reinforcement Learning from Human Feedback)는 사람이 평가한 결과를 이용하여 모델이 더 적절한 답변을 생성하도록 학습하는 방법이다.

또한 Anthropic은 정해진 원칙을 이용하여 AI의 답변을 평가하고 개선하는 Constitutional AI 관련 연구를 수행해 왔다.

이러한 방법은 인공지능이 이용자의 지시를 따르고 유해한 답변을 줄이도록 만드는 데 활용된다.

그러나 추가학습이 이루어졌다고 해서 모든 오류와 편향이 사라지는 것은 아니다.

추론

추론(Inference)은 학습된 모델이 실제 이용자의 입력을 처리하여 결과물을 생성하는 과정을 의미한다.

이용자가 질문을 입력하면 모델은 학습된 매개변수와 입력된 문맥을 이용하여 답변을 생성한다.

이 과정에서는 입력의 길이와 출력의 양, 모델의 규모 및 계산량 등에 따라 처리시간과 비용이 달라질 수 있다.

다만 일상적으로 사용하는 '추론'이라는 단어가 논리적으로 결론을 도출하는 사고과정을 뜻하는 것과 달리, 기계학습에서의 추론은 학습된 모델을 실제 입력에 적용하는 과정 전체를 가리키기도 한다.

따라서 AI가 추론을 수행한다는 표현이 항상 인간처럼 논리적 사고를 한다는 의미는 아니다.

프롬프트

프롬프트(Prompt)는 생성형 AI에 입력하는 질문이나 지시문을 의미한다.

예를 들어 다음과 같은 요청이 있다.

• 이 문서를 5줄로 요약해 줘.
• 서울의 야경을 수채화 스타일로 그려 줘.
• 이 Python 코드의 오류를 찾아 줘.
• 두 상품의 장단점을 표로 비교해 줘.
• 다음 자료를 바탕으로 보고서 초안을 작성해 줘.

프롬프트의 내용과 구조에 따라 생성되는 결과물이 달라질 수 있다.

특히 요청의 목적과 대상, 원하는 형식 및 제한조건 등을 명확하게 설명하면 더 적절한 결과물을 얻는 데 도움이 될 수 있다.

그러나 프롬프트를 정교하게 작성한다고 해서 잘못된 사실을 완전히 방지할 수 있는 것은 아니다.

주요 기술

트랜스포머

트랜스포머는 현대적인 대규모 언어 모델에서 널리 활용되는 신경망 구조다.

특히 어텐션 메커니즘을 이용하여 입력된 정보 사이의 관계를 계산한다.

이러한 구조는 대규모 병렬연산에 적합하며, 다양한 언어 모델의 발전에 중요한 역할을 했다.

다만 모든 생성형 AI가 동일한 트랜스포머 구조를 사용하는 것은 아니다.

생성적 적대 신경망

생성적 적대 신경망은 생성자와 판별자를 경쟁적으로 학습시키는 모델이다.

생성자는 실제와 비슷한 데이터를 생성하려고 하며, 판별자는 생성된 데이터와 실제 데이터를 구별하려고 한다.

이러한 경쟁을 통해 생성자는 더욱 정교한 결과물을 만들어낼 수 있다.

특히 얼굴 이미지 합성과 이미지 변환 등에 활용됐다.

변분 오토인코더

변분 오토인코더는 데이터의 잠재적인 구조를 학습하고 이를 이용하여 새로운 데이터를 생성하는 모델이다.

데이터의 압축과 복원, 새로운 표본 생성 등에 활용할 수 있다.

VAE는 여러 종류의 생성모델 연구에 영향을 미쳤으며 잠재공간을 활용한 생성기술을 이해하는 데 중요한 개념이다.

확산 모델

확산 모델은 이미지와 영상 등을 생성하는 데 사용되는 주요 기술 가운데 하나다.

특히 노이즈가 포함된 데이터에서 노이즈를 점진적으로 제거하면서 새로운 결과물을 만들어내는 방식이다.

예를 들어 이미지 생성에서는 무작위 노이즈에서 출발하여 여러 단계를 거쳐 하나의 그림을 완성할 수 있다.

이러한 과정은 실제 사람이 그림을 그리는 방식과 동일하지는 않지만 이용자가 원하는 이미지를 제작하는 데 활용할 수 있다.

멀티모달 AI

멀티모달 AI는 텍스트와 이미지, 음성, 동영상 등 여러 종류의 정보를 처리하는 인공지능이다.

예를 들어 이용자가 사진을 제공하면서 사진 속 물건을 설명해 달라고 요청하거나, 동영상의 내용을 요약하도록 요청할 수 있다.

또한 텍스트와 이미지를 함께 입력하여 새로운 이미지나 영상을 생성하는 기능도 존재한다.

다만 멀티모달 AI라고 해서 모든 종류의 입력과 출력을 지원하는 것은 아니다.

실제로 처리할 수 있는 데이터의 종류와 기능은 모델에 따라 달라진다.

검색 증강 생성

검색 증강 생성(Retrieval-Augmented Generation, RAG)은 언어 모델에 외부 자료를 검색하여 제공한 뒤 이를 바탕으로 답변을 생성하는 방식이다.

특히 회사의 내부문서와 데이터베이스, 최신 뉴스 등 모델이 학습하지 않았거나 학습만으로 정확하게 답변하기 어려운 자료를 활용할 수 있다.

RAG는 2020년 패트릭 루이스(Patrick Lewis) 등의 연구논문에서 체계적으로 소개되었다.

그러나 RAG를 사용한다는 사실만으로 답변의 정확성이 자동으로 보장되는 것은 아니다.

검색한 자료가 부정확하거나 모델이 해당 자료를 잘못 해석하면 여전히 잘못된 답변이 생성될 수 있다.

종류

텍스트 생성 AI

텍스트 생성 AI는 문장과 문서, 요약문 등 여러 종류의 글을 작성하는 인공지능이다.

대표적인 사례는 ChatGPT와 Claude, Gemini 등이다.

주요 활용분야로는 이메일 작성과 문서 요약, 번역, 자료분석 및 질문답변 등이 있다.

특히 대규모 언어 모델을 기반으로 하는 경우가 많다.

이미지 생성 AI

이미지 생성 AI는 자연어 설명이나 기존 이미지를 바탕으로 새로운 그림과 사진 등을 제작하는 인공지능이다.

대표적인 사례로는 Midjourney, 스테이블 디퓨전, Adobe Firefly 등이 있다.

또한 기존 이미지의 배경을 변경하거나 특정한 물체를 추가하고 스타일을 변환하는 기능도 존재한다.

그러나 실제로 존재하지 않는 사람이나 사건을 사진처럼 생성할 수 있으므로 허위정보와 초상권 침해 등에 관한 문제가 발생할 수 있다.

동영상 생성 AI

동영상 생성 AI는 텍스트나 이미지 등을 바탕으로 새로운 동영상을 제작하는 인공지능이다.

대표적인 기술과 모델 계열로는 Veo, Runway, Sora 등이 알려져 있다.

특히 영상 속 인물과 물체의 움직임을 생성하고 장면을 연결하는 기술이 발전해 왔다.

일부 모델은 영상과 음성을 함께 생성할 수도 있다.

그러나 영상 생성에는 여러 프레임 사이의 일관성을 유지해야 하는 기술적인 문제가 존재한다.

또한 서비스의 출시와 종료, 이용제한 및 모델 교체가 빠르게 이루어지고 있으므로 특정 제품의 실제 제공 여부는 시점에 따라 달라질 수 있다.

음성 생성 AI

음성 생성 AI는 자연스러운 사람의 목소리와 여러 종류의 오디오를 생성하는 인공지능이다.

특히 문장을 입력하면 음성으로 읽어주는 텍스트 음성 변환(Text-to-Speech, TTS) 기술에 활용된다.

또한 특정한 사람의 목소리와 비슷한 음성을 생성하는 음성 복제기술도 존재한다.

이러한 기술은 음성 안내와 번역, 더빙 및 접근성 지원 등에 활용할 수 있다.

그러나 다른 사람의 목소리를 허락 없이 복제하여 사기나 사칭 등에 사용하는 문제도 발생할 수 있다.

음악 생성 AI

음악 생성 AI는 멜로디와 반주, 노래 및 여러 종류의 음악을 생성하는 인공지능이다.

대표적인 서비스로는 Suno와 Udio 등이 알려져 있다.

특히 이용자가 원하는 음악의 장르와 분위기, 가사 등을 입력하면 관련 음악을 생성할 수 있다.

그러나 기존 저작물의 이용과 특정 가수의 목소리 모방, 생성물의 저작권 등에 관한 논쟁이 있다.

코드 생성 AI

코드 생성 AI는 프로그램을 개발하는 데 필요한 코드를 생성하거나 수정하는 인공지능이다.

대표적인 서비스로는 GitHub Copilot과 Claude Code 등이 있다.

특히 자연어로 개발하려는 기능을 설명하면 관련 코드를 작성하고, 이미 작성된 프로그램의 오류를 분석할 수 있다.

또한 일부 도구는 소프트웨어 프로젝트의 여러 파일을 직접 수정하고 테스트를 실행한다.

그러나 AI가 작성한 코드에도 보안취약점이나 논리적인 오류가 포함될 수 있으므로 검토와 테스트가 필요하다.

코드를 10초 만에 짜주는데 버그를 잡는 데 3시간 걸릴 수도 있다.

3차원 모델 생성 AI

생성형 AI는 그림과 영상뿐 아니라 3차원 물체와 공간을 생성하는 데에도 활용된다.

특히 게임과 애니메이션, 제품 디자인, 가상현실 등 여러 분야에서 연구되고 있다.

그러나 실제 산업현장에서 사용하는 3차원 모델에는 형상의 정확성뿐 아니라 물리적인 특성과 제작 가능성 등의 조건이 필요하다.

따라서 단순한 3차원 형상을 생성하는 기술과 실제 설계 및 제조에 사용할 수 있는 모델을 만드는 기술은 구분해야 한다.

대표적인 생성형 인공지능 서비스

2026년 기준 주요 생성형 AI 서비스와 모델 계열은 다음과 같다.

서비스·모델	개발사	주요 분야
ChatGPT	OpenAI	대화, 글쓰기, 자료분석, 코딩
Claude	Anthropic	대화, 문서분석, 코딩, AI 에이전트
Gemini	구글	대화, 멀티모달 AI, 업무지원
Microsoft Copilot	마이크로소프트	업무지원, 문서작성, 코딩
Grok	xAI	대화, 정보검색, 멀티모달 AI
DeepSeek	DeepSeek	언어 모델, 추론, 코딩
Llama	메타	언어 모델 및 개발자용 AI
HyperCLOVA X	네이버	한국어 기반 언어 모델
EXAONE	LG AI연구원	언어 모델 및 전문업무
Midjourney	Midjourney	이미지 생성
스테이블 디퓨전	Stability AI 등	이미지 생성
Adobe Firefly	어도비	이미지·디자인 생성
Veo	구글 딥마인드	동영상 생성
Runway	Runway	동영상 생성·편집
Suno	Suno	음악 생성
ElevenLabs	ElevenLabs	음성 생성·더빙
GitHub Copilot	GitHub·마이크로소프트	코드 생성·개발지원

위 목록은 대표적인 제품과 모델 계열을 함께 소개한 것이다.

특히 ChatGPT 같은 이용자용 서비스와 Llama 같은 모델 계열은 서로 다른 종류의 개념이다.

하나의 서비스가 여러 세대의 모델을 사용하거나 다른 회사의 모델을 제공하는 경우도 있으며, 자체적인 웹서비스와 별도의 개발자용 API를 제공하기도 한다.

따라서 서비스명과 기반 인공지능 모델의 이름을 완전히 동일한 개념으로 이해해서는 안 된다.

활용 분야

글쓰기와 사무업무

생성형 AI는 문서작성과 이메일, 회의록 요약 및 자료분석 등 여러 종류의 사무업무에 활용되고 있다.

특히 반복적으로 작성해야 하는 문서의 초안을 만드는 데 도움이 될 수 있다.

또한 여러 자료를 비교하거나 복잡한 내용을 요약하는 데에도 활용된다.

완성품 제조기라기보다는 초안 가속기라고 보는 편이 안전하다.

AI가 100점을 만들어준다고 생각하면 위험하고, 0점에서 60점까지 빠르게 끌어올려주는 도구라고 보면 꽤 쓸만하다.

다만 이 점수는 실제 성능을 측정한 수치가 아니라 AI의 보조적인 역할을 설명하기 위한 비유다.

특히 중요한 경영판단과 계약, 재무보고 등의 업무에서는 실제 자료의 정확성과 관련 규정을 확인해야 한다.

소프트웨어 개발

생성형 AI는 프로그램 코드의 작성과 수정, 오류 분석 및 테스트 등에 활용된다.

특히 기존에는 개발자가 직접 작성해야 했던 단순한 코드와 반복적인 작업을 자동화하는 데 도움이 될 수 있다.

또한 자연어로 새로운 기능을 설명하여 소프트웨어를 개발하는 방식도 확대되고 있다.

그러나 AI가 생성한 코드의 품질은 작업의 복잡성과 기존 소프트웨어의 구조에 따라 달라진다.

특히 실제 서비스를 운영하는 프로그램에서는 보안과 성능, 다른 시스템과의 호환성 등을 별도로 확인해야 한다.

교육

생성형 AI는 학습내용의 설명과 문제풀이, 외국어 연습 및 학습자료 제작 등에 활용될 수 있다.

특히 학습자의 이해수준에 따라 설명의 난이도를 조정하는 데 도움이 될 수 있다.

그러나 숙제와 시험에 AI를 사용하는 문제는 교육기관의 규정과 학습의 목적에 따라 논쟁의 대상이 된다.

또한 AI가 작성한 답변을 검토하지 않고 그대로 제출하면 잘못된 내용을 학습할 가능성도 있다.

숙제를 대신 해주기는 하는데 틀린 답도 자신 있게 써놓는다.

의료와 과학연구

생성형 AI는 의학문헌의 요약과 진료기록의 정리, 연구자료 분석 및 신약개발 관련 연구 등에 활용된다.

특히 방대한 연구자료를 빠르게 분석하고 새로운 가설을 제안하는 데 도움이 될 수 있다.

그러나 의료정보의 생성과 실제 진단, 치료 및 처방은 서로 다른 문제다.

특히 생성형 AI가 제시한 의학정보에 오류가 포함될 수 있으므로 의료전문가의 판단과 임상적인 검증이 필요하다.

미디어와 콘텐츠 제작

생성형 AI는 그림과 동영상, 음악, 광고 및 게임 콘텐츠를 제작하는 데 활용되고 있다.

특히 창작자가 구상한 내용을 빠르게 시각화하거나 여러 종류의 시안을 제작하는 데 도움이 될 수 있다.

또한 번역과 더빙, 자막 제작 및 영상편집 등에 활용된다.

그러나 창작자의 동의 없이 특정한 화풍이나 목소리를 모방하거나 기존 저작물을 침해하는 문제가 발생할 수 있다.

데이터 분석

생성형 AI는 자연어를 이용하여 데이터베이스에 질문하거나 자료를 분석하는 데 활용할 수 있다.

예를 들어 이용자가 “지난달 매출이 가장 많이 증가한 상품을 보여 달라”고 요청하면 AI가 관련 데이터를 조회하고 결과를 설명할 수 있다.

특히 SQL 쿼리 작성과 분석결과의 요약, 그래프 생성 등에 활용된다.

그러나 데이터의 정의와 집계조건을 잘못 이해하면 실제 데이터가 정확하더라도 부정확한 결과가 나올 수 있다.

예를 들어 매출을 집계할 때 환불된 주문을 포함하거나, 서로 다른 기간의 데이터를 비교하거나, 중복된 거래를 그대로 합산하는 등의 오류가 발생할 수 있다.

따라서 중요한 분석에서는 사용한 쿼리와 원본자료, 계산결과 등을 검토해야 한다.

AI 에이전트와의 관계

개요

AI 에이전트는 특정한 목표를 달성하기 위해 정보를 수집하고 여러 행동을 수행하는 인공지능 시스템이다.

특히 생성형 AI를 기반으로 외부 도구와 소프트웨어를 활용하는 경우가 많다.

예를 들어 일반적인 대화형 AI는 여행계획을 작성할 수 있다.

반면 외부 서비스와 연결된 AI 에이전트는 항공편을 검색하고 숙박시설을 비교하거나, 이용자의 승인을 받아 예약절차를 진행할 수 있다.

다만 모든 생성형 AI가 반드시 AI 에이전트인 것은 아니다.

또한 AI 에이전트는 생성형 AI 모델뿐 아니라 일반적인 프로그램과 검색시스템, 다양한 도구를 함께 사용할 수 있다.

2026년 OECD는 AI 에이전트의 개념과 기술적인 특징을 정리한 보고서를 발표하면서 목표지향적인 행동과 도구 활용, 자율성 등을 주요 특징으로 분석했다.

도구 사용

AI 에이전트는 외부 도구를 이용하여 여러 작업을 수행할 수 있다.

대표적인 도구에는 다음과 같은 것들이 있다.

• 웹 검색
• 파일 읽기와 수정
• 프로그램 코드 실행
• 데이터베이스 조회
• 이메일과 일정관리
• 외부 API 호출
• 브라우저와 컴퓨터 조작

이러한 기능은 AI가 단순히 답변을 생성하는 것에서 나아가 실제 업무를 처리하도록 만든다.

그러나 외부 도구를 사용할 때에는 이용자의 접근권한과 보안, 작업의 결과 및 승인절차 등이 중요하다.

특히 AI가 실제로 파일을 삭제하거나 이메일을 보내는 등의 행동을 수행할 수 있다면 잘못된 판단이 실제 피해로 이어질 수 있다.

프롬프트 인젝션

프롬프트 인젝션(Prompt Injection)은 AI가 처리하는 외부 자료에 악의적인 지시를 삽입하여 의도하지 않은 행동을 하도록 유도하는 공격이다.

예를 들어 AI 에이전트가 웹페이지를 읽는 과정에서 해당 웹페이지에 포함된 명령을 실제 이용자의 지시로 잘못 받아들일 가능성이 있다.

이러한 공격은 이메일이나 문서, 코드 저장소, 검색결과 등에서도 발생할 수 있다.

특히 이메일과 파일, 금융정보 및 외부 서비스에 접근하는 AI 에이전트에서는 피해가 커질 수 있다.

따라서 AI 에이전트의 개발과 운영에서는 외부 자료와 사용자의 실제 지시를 구분하고 접근권한을 제한하는 보안체계가 필요하다.

한계 및 문제점

환각 현상

환각 현상(Hallucination)은 생성형 AI가 실제로 존재하지 않는 내용이나 부정확한 정보를 그럴듯하게 생성하는 문제다.

예를 들어 존재하지 않는 연구논문을 인용하거나 잘못된 통계자료를 만들어낼 수 있다.

또한 실제로 일어나지 않은 사건을 사실처럼 설명하는 경우도 있다.

문제는 이런 결과물이 상당히 자연스러운 문장으로 만들어질 수 있다는 점이다.

따라서 AI가 자신 있게 답변한다고 해서 반드시 정확한 답변이라고 볼 수는 없다.

미국 국립표준기술연구소(NIST)는 생성형 AI의 위험관리 지침에서 이러한 문제를 주요 위험 가운데 하나로 다루고 있다.

모르면 모른다고 하면 되는데 없는 논문까지 직접 창작하는 게 문제다.

편향과 차별

생성형 AI는 학습데이터에 포함된 편향을 학습할 수 있다.

특히 특정한 성별과 인종, 국가 및 사회집단에 관한 부정확한 고정관념을 재생산할 가능성이 있다.

또한 일부 언어와 문화에 관한 데이터가 상대적으로 적으면 해당 분야의 성능이 낮아질 수 있다.

이러한 문제를 줄이기 위해 데이터 구성과 학습방법, 모델 평가 등에 관한 연구가 이루어지고 있다.

그러나 기술적인 조치만으로 사회적인 편향을 완전히 제거하기는 어렵다.

딥페이크

딥페이크(Deepfake)는 인공지능을 이용하여 실제 사람이나 사건과 비슷한 이미지, 음성 및 동영상을 합성하거나 조작하는 기술과 결과물을 가리킨다.

이러한 기술은 영화와 예술, 교육 및 여러 종류의 콘텐츠 제작에 활용할 수 있다.

그러나 실제로 존재하지 않는 발언과 행동을 특정 인물이 한 것처럼 조작하는 데에도 이용될 수 있다.

특히 사기와 명예훼손, 허위정보 유포 및 비동의 성적 이미지 제작 등의 문제와 관련되어 있다.

따라서 생성형 AI로 제작한 콘텐츠의 출처를 확인하고 관련 사실을 검증하는 것이 중요하다.

저작권

생성형 AI의 발전과 함께 가장 큰 논쟁 가운데 하나는 저작권이다.

특히 저작권자의 허락 없이 수집한 글과 그림, 음악 등을 AI 학습에 사용할 수 있는지에 관한 논쟁이 존재한다.

또한 생성형 AI가 제작한 결과물이 기존 저작물과 유사한 경우 저작권을 침해하는지에 관한 문제도 발생한다.

이러한 논쟁은 크게 다음과 같이 구분할 수 있다.

• 학습데이터 문제 : 기존 저작물을 AI 학습에 이용하는 행위가 적법한지에 관한 문제.
• 출력물의 침해 문제 : 생성된 결과물이 다른 사람의 저작권을 침해하는지에 관한 문제.
• AI 결과물의 권리 문제 : 인공지능이 생성한 콘텐츠를 누가 저작권으로 보호받을 수 있는지에 관한 문제.

특히 국가마다 적용되는 법률과 판례가 다르므로 하나의 국가에서 내려진 판단을 전 세계에 동일하게 적용할 수는 없다.

AI 생성물의 저작권

2025년 1월 미국 저작권청은 생성형 AI의 결과물과 저작권에 관한 보고서를 발표했다.

이 보고서는 인간의 창의적인 기여가 충분한 경우에는 AI 도구를 이용하여 제작한 결과물도 저작권 보호를 받을 수 있다고 설명했다.

예를 들어 사람이 창작한 표현이 AI 결과물에 포함되거나, 결과물을 창의적으로 배열하고 수정하는 경우 등이 해당할 수 있다.

반면 인간의 창작적인 개입 없이 AI가 전적으로 생성한 부분에 대해서는 일반적으로 저작권 보호가 인정되지 않는다는 입장을 제시했다.

특히 단순히 프롬프트만 입력한 사실만으로 충분한 창작적 기여가 있었다고 볼 수는 없다고 설명했다.

다만 이는 미국의 저작권법과 관련된 해석이다.

대한민국을 비롯한 다른 국가에서는 관련 법률과 판단기준을 별도로 검토해야 한다.

개인정보 보호

생성형 AI는 이용자가 입력한 문서와 대화내용, 이미지 및 여러 종류의 개인정보를 처리할 수 있다.

특히 기업에서 AI를 사용하는 경우 내부 영업비밀과 고객정보 등이 외부 서비스로 전송될 가능성이 있다.

따라서 개인정보와 기업의 내부정보를 AI 서비스에 입력할 때에는 해당 서비스의 데이터 처리정책과 접근권한 등을 확인해야 한다.

또한 생성형 AI 서비스와 API, 기업용 계약의 데이터 보관 및 학습정책은 서로 다를 수 있으므로 개별 조건을 확인할 필요가 있다.

AI는 만능 비서가 아니다. 좋은 도구지만, 도구는 사용자가 멍청하게 쓰면 같이 멍청해진다.

망치로 못을 박을 수도 있고, 자기 발등을 찍을 수도 있다.

일자리와 노동시장

생성형 AI가 등장하면서 일자리 논쟁도 커졌다.

어떤 사람은 “AI가 인간 일을 다 빼앗는다”고 하고, 어떤 사람은 “AI를 쓰는 사람이 AI를 안 쓰는 사람을 대체한다”고 한다.

둘 다 어느 정도 맞는 말이다.

단순 반복 작업, 형식적인 문서 작성, 흔한 디자인 시안, 기본 코드 작성 같은 일은 자동화로 인한 영향을 받을 가능성이 있다.

그러나 AI 결과물을 판단하고 방향을 정하고 책임지고 현실에 맞게 고치는 일은 여전히 중요한 업무다.

실제 노동시장에 미치는 영향은 산업의 특성과 AI 도입비용, 기업의 운영방식 및 관련 법률 등에 따라 달라질 수 있다.

따라서 특정한 업무의 일부를 자동화할 수 있다는 사실이 해당 직업 전체가 즉시 사라진다는 의미는 아니다.

결국 문제는 AI가 인간을 대체하느냐가 아니라, 인간이 AI를 들고 와서 다른 인간을 얼마나 갈아넣을 것이냐에 가깝다.

기술보다 무서운 건 언제나 경영진이다.

전력과 환경 문제

대규모 생성형 AI의 학습과 서비스 운영에는 상당한 연산자원이 필요하다.

특히 대규모 데이터센터와 반도체, 냉각시설 및 전력공급체계 등이 필요하다.

2025년 국제에너지기구(IEA)는 전 세계 데이터센터의 직접 전력소비량이 2024년 약 415TWh에서 2030년에는 기본 시나리오 기준 약 945TWh로 증가할 수 있다고 전망했다.

이는 약 두 배 이상 증가하는 수준이다.

다만 이 수치는 생성형 AI만의 전력소비량이 아니라 일반적인 클라우드 서비스와 데이터센터 운영 등을 포함한 전체 전망이다.

또한 전력 소비량과 이를 공급하기 위해 발전해야 하는 전력량은 송배전 손실 등의 이유로 차이가 있을 수 있다.

따라서 생성형 AI의 환경적인 영향을 평가할 때에는 모델의 학습과 추론뿐 아니라 데이터센터의 전체 에너지 사용과 전력원의 종류 등을 함께 고려할 필요가 있다.

AI 생성물 표시

개요

생성형 AI로 제작한 이미지와 영상, 음성 등은 실제 사람이 제작한 콘텐츠와 구별하기 어려울 수 있다.

이에 따라 AI가 생성한 콘텐츠라는 사실을 이용자가 확인할 수 있도록 표시하는 기술과 제도가 발전하고 있다.

대표적인 방법에는 눈에 보이는 표시와 디지털 워터마크, 출처에 관한 메타데이터 등이 있다.

그러나 모든 AI 생성물이 이러한 표시를 포함하는 것은 아니다.

또한 특정한 표시가 없다는 사실만으로 사람이 직접 제작한 콘텐츠라고 판단할 수는 없다.

워터마크

디지털 워터마크는 이미지와 음성, 동영상 또는 텍스트 등에 특정한 정보를 삽입하여 콘텐츠의 출처나 생성 여부 등을 확인하는 기술이다.

특히 일부 워터마크는 이용자가 직접 볼 수 없도록 설계된다.

그러나 콘텐츠를 수정하거나 변환하는 과정에서 워터마크가 손상될 수 있으며, 모든 워터마크를 모든 서비스에서 확인할 수 있는 것은 아니다.

따라서 워터마크는 생성형 AI의 투명성을 높이는 방법 가운데 하나이지만 완전한 판별수단은 아니다.

C2PA

C2PA(Coalition for Content Provenance and Authenticity)는 디지털 콘텐츠의 제작과 수정이력, 출처 등을 확인하기 위한 기술표준을 개발하는 협의체다.

특히 Content Credentials라는 방식으로 콘텐츠의 제작 및 변경정보 등을 기록할 수 있도록 한다.

이러한 기술은 AI 생성물인지 여부와 콘텐츠의 출처를 확인하는 데 도움이 될 수 있다.

그러나 C2PA 정보가 있다고 해서 해당 이미지나 문서의 내용이 반드시 사실이라는 의미는 아니다.

C2PA는 콘텐츠의 진실성을 직접 판단하는 기술이라기보다 출처와 변경이력을 확인할 수 있도록 하는 기술에 가깝다.

법률 및 규제

대한민국

2026년 1월 22일 대한민국에서 《인공지능 발전과 신뢰 기반 조성 등에 관한 기본법》이 시행됐다.

일반적으로 인공지능기본법이라고 부른다.

이 법률은 인공지능 산업의 발전을 지원하면서 관련 기술의 안전성과 신뢰성을 확보하기 위한 제도적인 기반을 마련하는 것을 목적으로 한다.

특히 생성형 AI와 고영향 AI 등을 활용하는 제품 및 서비스의 투명성 확보와 안전성 관리 등에 관한 규정을 포함한다.

대한민국 정부는 생성형 AI를 이용하는 사실의 고지와 생성된 결과물의 표시 등에 관한 기준도 마련했다.

다만 AI 결과물의 종류와 이용환경에 따라 적용되는 표시방식에는 차이가 있다.

특히 실제 인물이나 사건으로 오인될 위험이 있는 딥페이크 결과물과 일반적인 애니메이션 및 웹툰 등에는 서로 다른 표시방식이 허용될 수 있다.

또한 정부는 제도의 안착을 위해 최소 1년의 계도기간을 운영하기로 했다.

따라서 법률이 시행됐다는 사실과 모든 종류의 위반행위에 즉시 동일한 제재가 적용된다는 것은 구분해야 한다.

유럽연합

유럽연합은 인공지능의 위험관리와 투명성에 관한 법률인 AI Act를 도입했다.

AI Act는 인공지능 시스템의 위험도와 사용목적 등에 따라 서로 다른 의무를 부과하는 구조를 가지고 있다.

특히 AI 시스템과의 상호작용 여부, 인공지능으로 생성하거나 조작한 콘텐츠의 표시, 딥페이크 공개 등에 관한 투명성 규정을 포함한다.

2026년 8월 2일부터는 제50조의 투명성 관련 의무가 적용되기 시작했다.

다만 2026년 8월 2일 이전에 시장에 출시된 일부 AI 시스템의 경우, 제50조 제2항의 생성물 표시와 탐지 관련 의무에 대해 2026년 12월 2일까지 경과조치가 적용된다.

또한 개인적인 활동과 특정한 예외조건 등이 존재하므로 모든 AI 콘텐츠를 동일한 방법으로 표시해야 한다는 의미는 아니다.

실제 적용되는 의무는 해당 AI 시스템의 기능과 이용목적, 제공자와 이용사업자의 역할 등에 따라 달라질 수 있다.

미국

미국에서는 생성형 AI의 개발과 이용을 둘러싼 저작권, 개인정보 보호 및 소비자 보호 등에 관한 법적인 논쟁이 진행되고 있다.

특히 연방정부와 주정부의 정책, 법원 판결 및 관련 기관의 지침 등이 인공지능 산업에 영향을 미친다.

2025년 1월 미국 저작권청은 AI 결과물의 저작권에 관한 보고서를 발표하면서 인간의 창의적인 기여가 충분한 경우에 한해 저작권 보호가 가능하다는 입장을 제시했다.

그러나 미국에서는 주별 법률과 적용분야, 연방 차원의 규제 등이 서로 다를 수 있다.

따라서 특정한 주에서 적용되는 법률을 미국 전체에 동일하게 적용되는 규정으로 설명해서는 안 된다.

사회적 영향

생산성의 변화

생성형 AI는 기존에 사람이 직접 수행하던 여러 종류의 업무를 지원할 수 있다.

특히 문서작성과 프로그램 개발, 자료분석 및 콘텐츠 제작 등에서 활용되고 있다.

스탠퍼드대학교의 2026년 AI Index 보고서는 인공지능의 기업 도입과 이용자 확산이 빠르게 진행되고 있다고 분석했다.

그러나 실제 생산성 향상은 업무의 종류와 이용자의 숙련도, 기업의 시스템 및 결과물의 검토과정 등에 따라 달라질 수 있다.

특히 AI가 만들어낸 오류를 수정하는 데 많은 시간이 필요하다면 기대한 생산성 향상이 나타나지 않을 수도 있다.

교육과 지식의 접근성

생성형 AI는 다양한 학습자료와 전문정보를 이해하기 쉬운 형태로 설명하는 데 활용될 수 있다.

특히 개인의 학습수준에 맞춘 설명과 외국어 번역, 자료 요약 등이 가능하다.

이는 기존에 전문적인 지식을 습득하기 어려웠던 이용자들에게 새로운 교육기회를 제공할 수 있다.

그러나 잘못된 내용을 생성하거나 지나치게 단순화된 설명을 제공할 가능성도 존재한다.

따라서 AI의 설명을 활용하면서 원문과 교과서, 신뢰할 수 있는 자료를 함께 확인하는 것이 중요하다.

정보의 신뢰성

생성형 AI는 상당한 규모의 콘텐츠를 짧은 시간에 제작할 수 있다.

이러한 특징은 교육과 언론, 창작활동 등에 도움이 될 수 있다.

반면 허위정보와 조작된 이미지, 자동으로 생성된 스팸 콘텐츠가 대량으로 유포되는 문제도 발생할 수 있다.

특히 생성형 AI로 만들어낸 품질 낮은 콘텐츠가 지나치게 많이 유통되는 현상을 AI 슬롭(AI Slop)이라고 부르기도 한다.

AI 슬롭이 증가하면 인터넷에서 신뢰할 수 있는 정보를 찾기 어려워지고, 실제 사람이 제작한 콘텐츠와 자동 생성된 콘텐츠를 구별하기 어려워질 수 있다.

따라서 콘텐츠가 어떤 경로로 제작됐으며 실제 사실과 일치하는지를 확인하는 일이 더욱 중요해지고 있다.

인간과 인공지능의 관계

생성형 AI는 자연스러운 대화와 개인화된 응답 등을 제공하면서 인간과 컴퓨터의 상호작용방식을 변화시키고 있다.

특히 이용자가 AI를 단순한 검색도구나 프로그램이 아니라 대화를 나누는 상대처럼 인식하는 경우도 존재한다.

그러나 자연스러운 언어를 생성하거나 감정적인 표현을 사용할 수 있다는 사실만으로 인공지능이 인간과 같은 의식이나 감정을 가지고 있다고 증명되는 것은 아니다.

인공지능의 의식과 경험, 도덕적인 지위 등에 관한 문제는 여전히 철학과 인지과학 및 인공지능 연구의 논쟁적인 주제다.

주요 연혁

시기	주요 사건
2013년	변분 오토인코더(VAE) 관련 연구 발표
2014년	생성적 적대 신경망(GAN) 발표
2017년	트랜스포머 구조를 제안한 《Attention Is All You Need》 발표
2020년	확산확률모델을 이용한 고품질 이미지 생성 연구 발표
2020년	검색 증강 생성(RAG) 관련 연구 발표
2022년	DALL·E 2와 Midjourney 등 이미지 생성 AI 대중화
2022년 8월	스테이블 디퓨전 공개
2022년 11월 30일	ChatGPT 공개
2023년 3월	Anthropic의 Claude 공개
2023년	대화형 AI 서비스 간 경쟁 확대
2024년	멀티모달 AI와 고성능 추론모델, AI 영상 생성기술 발전
2025년 1월	미국 저작권청, AI 생성물과 저작권에 관한 보고서 발표
2025년 4월	국제에너지기구, AI 및 데이터센터 전력수요 전망 발표
2025년	프로그램 개발과 업무자동화를 위한 AI 에이전트 확산
2026년 1월 22일	대한민국 인공지능기본법 시행
2026년 2월	OECD, AI 에이전트의 개념과 특징에 관한 보고서 발표
2026년	스탠퍼드대학교 AI Index 보고서, 생성형 AI의 이용확대와 AI 에이전트 성능발전 분석
2026년 8월 2일	EU AI Act 제50조의 AI 콘텐츠 투명성 관련 의무 적용 시작

평가

생성형 AI는 인터넷 이후 가장 큰 생산성 도구 중 하나다.

사람이 직접 하던 많은 지식 작업을 빠르게 보조할 수 있고, 창작과 업무의 진입장벽을 낮춘다.

하지만 이것은 신도 아니고, 진실 판독기도 아니고, 완벽한 전문가도 아니다.

특히 생성형 인공지능은 글과 그림, 음악, 영상 및 프로그램 코드 등의 제작을 지원하면서 기존에 사람이 수행하던 작업의 범위를 상당 부분 변화시켰다.

또한 외부 도구와 소프트웨어를 이용하는 AI 에이전트의 발전으로 단순한 콘텐츠 생성에서 실제 업무 수행으로 활용범위가 확대되고 있다.

그러나 생성형 AI의 성능이 향상되고 있다는 사실만으로 인간의 판단과 검증이 불필요해졌다는 의미는 아니다.

특히 환각 현상과 편향, 개인정보 유출, 저작권 침해 및 악의적인 이용 등의 문제가 존재한다.

또한 실제 업무에서 인공지능이 얼마나 효율적으로 사용될 수 있는지는 개별 조직의 업무구조와 데이터의 품질, 운영비용 및 관련 인력의 역량 등에 영향을 받는다.

따라서 생성형 AI는 인간의 창작과 지식노동을 지원하는 강력한 기술인 동시에, 안전성과 책임 있는 이용을 위한 사회적·제도적 관리가 필요한 기술이라고 할 수 있다.

결국 생성형 AI 시대의 능력은 AI를 무조건 믿는 능력이 아니라, AI를 의심하면서 제대로 써먹는 능력이다.

잘 쓰면 조수고, 못 쓰면 사기꾼이다. 더 무서운 건 가끔 조수와 사기꾼이 같은 놈이라는 거다.

여담

• 생성형 AI는 영어로 Generative Artificial Intelligence라고 하며, 일반적으로 Generative AI 또는 GenAI라고 줄여 부른다.
• 2022년 ChatGPT 공개 이후 생성형 AI에 대한 대중적인 관심이 크게 증가했다.
• 오늘날의 생성형 AI는 글과 그림뿐 아니라 음성, 음악, 동영상 및 프로그램 코드도 생성할 수 있다.
• 2020년대 중반에는 외부 도구를 이용해 여러 작업을 수행하는 AI 에이전트가 중요한 발전분야로 부상했다.
• 생성형 AI가 만든 결과물이 자연스럽고 그럴듯하다는 사실이 그 내용의 정확성을 보장하는 것은 아니다.
• 특히 존재하지 않는 논문이나 인터넷 주소를 만들어내는 환각 현상이 발생할 수 있다.
• AI가 만든 이미지와 영상은 실제 촬영한 콘텐츠와 구별하기 어려운 경우도 있다.
• 이에 따라 디지털 워터마크와 C2PA 등의 출처확인 기술이 발전하고 있다.
• 2026년 1월 대한민국의 인공지능기본법이 시행됐다.
• 2026년 8월 유럽연합에서도 생성형 AI 콘텐츠의 투명성과 관련된 의무가 적용되기 시작했다.
• 과제는 대신 해주는데 교수님한테 걸리면 책임은 학생이 져야 한다.
• 프로그램 코드를 짜주는 건 좋은데, 버그까지 같이 창조하는 경우가 있다.
• 가장 큰 문제는 헛소리할 때도 문장이 존나 자연스럽다는 것이다.

관련 영상

Google Cloud - Introduction to Generative AI

Google Cloud Tech 공식 교육영상

2023년 5월 8일 공개된 영상으로, 생성형 AI의 기본 개념과 작동 원리, 활용 분야 등을 설명한다.

IBM - AI, Machine Learning, Deep Learning and Generative AI Explained

IBM Technology 공식 교육영상

2024년 8월 5일 공개된 영상으로, 인공지능과 머신러닝, 딥러닝 및 생성형 AI의 차이를 설명한다.

같이 보기

• 인공지능
• 기계학습
• 딥러닝
• 신경망
• 생성형 AI
• 대규모 언어 모델
• 멀티모달 AI
• 트랜스포머
• 어텐션 메커니즘
• 변분 오토인코더
• 생성적 적대 신경망
• 확산 모델
• 자연어 처리
• AI 에이전트
• 인공 일반 지능
• 검색 증강 생성
• 프롬프트 엔지니어링
• RLHF
• 환각 현상
• 프롬프트 인젝션
• 딥페이크
• 인공지능 정렬
• AI 안전성
• 인공지능기본법
• AI Act
• C2PA
• ChatGPT
• OpenAI
• Anthropic
• Claude(AI)
• Gemini
• 구글 딥마인드
• Microsoft Copilot
• DeepSeek
• Grok
• Meta AI
• Llama
• Muse(AI)
• Midjourney
• 스테이블 디퓨전
• Adobe Firefly
• Veo
• Sora
• Suno
• GitHub Copilot
• Claude Code
• HyperCLOVA X
• EXAONE
• 엔비디아
• GPU
• 데이터센터
• 저작권
• 개인정보 보호

외부 링크

개념 및 기술

• OECD - 생성형 AI의 정의와 정책
• NIST - 생성형 AI 용어 정의
• 스탠퍼드대학교 - 2026 AI Index 보고서
• 구글 - 트랜스포머 연구논문
• 변분 오토인코더 연구논문
• 생성적 적대 신경망 연구논문
• 확산 모델 연구논문
• 검색 증강 생성 연구논문
• OECD - AI 에이전트 개념 연구

주요 공식 발표

• OpenAI - 2022년 ChatGPT 최초 공개
• Stability AI - 2022년 스테이블 디퓨전 공개
• Anthropic - Claude 최초 공개

위험 및 법률

• NIST - 생성형 AI 위험관리 지침
• 미국 저작권청 - AI 생성물의 저작권
• C2PA - 디지털 콘텐츠 출처확인 표준
• 대한민국 정책브리핑 - 인공지능기본법 시행
• 유럽연합 집행위원회 - AI Act의 투명성 의무
• 국제에너지기구 - AI와 데이터센터 전력수요