맑음

AI(Artificial Intelligence)로 불리는 인공지능은 대량의 데이터를 학습하여 인간처럼 추론하고 스스로 콘텐츠를 생성해 내는 고성능 기술 플랫폼입니다. 비즈니스 혁신과 업무 생산성 향상을 위한 필수 솔루션이라 빠른 속도로 활용률이 급증하고 있습니다.

많은 기업이 AI를 도입하고 있으나 정작 관련 용어와 데이터를 정확하게 해석하지 못해 한계에 부딪히는 것이 현실입니다. AI 용어를 정확히 이해하면 업무 시행착오를 줄여 생산성을 극대화할 수 있고, 비용 낭비와 리스크를 방지하며, 나아가 차세대 AI 검색 시장(AEO/GEO)을 선점하는 강력한 비즈니스 우위를 확보할 수 있습니다.
 

이에 여러분의 비즈니스가 최고의 성능을 발휘하는 데 꼭 필요한 기본적인 AI 관련 용어를 간결하게 정리해 드리니 적극 활용하시기 바랍니다.

보다 자세한 설명이 필요하실 경우 관련 인공지능 가이드 문서들을 참고해 주시기 바랍니다.

[기본용어]
매개변수 Parameter AI 모델의 뇌세포 역할을 하는 가중치

- 수치가 클수록 모델이 더 정교하고 복잡한 연산 수행 가능

토큰 Token AI가 문장을 인식하고 처리하는 최소 텍스트 단위

- 글자나 단어 뭉치로 쪼개짐

- AI 서비스의 비용(과금)을 산정하는 기준이 됨

프롬프트 Prompt 

- AI에게 원하는 답변을 얻기 위해 입력하는 명령어나 질문

컨텍스트 윈도우 Context Window 

- AI가 한 번에 기억하고 처리할 수 있는 최대 문맥의 길이

-이 범위를 넘어가면 AI는 대화의 앞부분을 기억하지 못함

환각 현상 Hallucination 

- AI가 거짓 정보를 사실인 것처럼 왜곡하여 답변하는 오류 현상

RAG Retrieval-Augmented Generation 

- 외부 데이터베이스에서 실시간으로 정보를 검색한 후 답변을 생성하는 기술

- 환각 현상을 방지하는 핵심 솔루션

파인 튜닝 Fine-tuning 

- 이미 완성된 범용 AI 모델에 특정 데이터를 추가로 학습시키는 과정

- 특정 목적에 맞게 맞춤형 전문 모델로 업그레이드

[AI 모델 및 데이터]
LLM Large Language Model 

- 방대한 텍스트 데이터를 학습하여 자연스러운 문장을 생성하는 거대 인공지능

SLM Small Language Model 

- 특정 산업이나 기업 목적에 맞게 크기를 줄여 비용 효율성을 극대화한 소형 언어 모델

- LLM에 비해 구축 및 운영 비용이 저렴하고 보안성이 높음

AGI Artificial General Intelligence 

- 특정 영역에 국한되지 않고 인간 수준의 모든 지적 작업을 스스로 학습하고 수행할 수 있는 범용 인공지능

- 자율적인 추론과 유연한 문제 해결 능력을 갖춘 인공지능의 궁극적인 진화 단계

- 글로벌 비즈니스 환경과 노동 시장의 판도를 바꿀 기술적 특이점으로 주목받음

멀티모달 Multimodal 

- 텍스트, 이미지, 음성, 영상 등 다양한 형태의 데이터를 동시에 처리하는 기술

정형 데이터 Structured Data 

- 엑셀이나 데이터베이스처럼 규격화되어 정돈된 데이터
 

비정형 데이터 Unstructured Data 

- 이미지, 영상, 오디오처럼 형태가 정해지지 않은 날것의 데이터

- 최신 생성형 AI가 분석에 탁월한 역량을 보임

합성 데이터 Synthetic Data 

- 실제 세계에서 수집한 것이 아닌 알고리즘으로 가상 생성한 인공 데이터

[AI 에이전트 및 자율 워크플로우] 

AI 에이전트 AI Agent 

- 사용자의 목표를 이루기 위해 스스로 계획을 세우고, 판단하며, 외부 툴을 사용해 실행까지 자율적으로 완료하는 인공지능 시스템

- 단순 챗봇을 넘어 예약, 이메일 발송, 데이터 수집 등 '행동'을 대행함

멀티 에이전트 Multi-Agent 

- 각기 다른 전문 역할(예: 마케터, 개발자, 분석가 등)을 부여받은 여러 AI 에이전트들이 서로 협력하고 소통하며 복잡한 프로젝트를 완수하는 시스템

함수 호출 및 툴 이용 Function Calling / Tool Use 

- AI가 답변만 하는 것이 아니라 필요에 따라 계산기, 캘린더, 결제 시스템 등 외부 소프트웨어나 API를 직접 호출해 물리적인 작업을 수행하는 기술

인간 참여형 루프 HITL (Human-in-the-Loop) 

- AI 에이전트가 자율적으로 작동하는 과정 중, 최종 승인이나 중요 결정 단계에 인간이 개입하여 안전성과 정확성을 검증하는 프로세스

[프롬프트 기법] 

제로샷 프롬프팅 Zero-shot 

- 예시를 전혀 제공하지 않고 곧바로 원하는 명령을 내려 답변을 유도하는 방식

퓨샷 프롬프팅 Few-shot 

- 원하는 답변의 형태나 예시를 몇 개 보여준 뒤 결과물을 도출하게 하는 방식

CoT Chain of Thought 

- AI에게 논리적으로 생각하라고 지시하여 추론 단계를 밟게 하는 기법

- 답변의 정확도를 극적으로 높임

[AI 검색 및 최적화] 

시맨틱 검색 Semantic Search 

- 단순 키워드 매칭을 넘어 검색자의 의도와 질문의 본질적인 맥락을 읽는 검색 방식

AIO 개요 AI Overviews 

- 검색엔진이 여러 웹페이지의 정보를 종합하여 검색 결과 상단에 직접 요약된 답변을 제공하는 기능

AIO 인공지능 최적화  AI Optimization 

- ChatGPT, Gemini, Perplexity 등 생성형 AI 환경에 맞춰 콘텐츠와 비즈니스를 AI 친화적으로 최적화하는 포괄적 전략

- 전통적인 SEO를 넘어 AI가 자사 브랜드를 더 잘 이해하고 추천하도록 만드는 마케팅 혁신

AEO Answer Engine Optimization 

- AI 검색 엔진이나 음성 비서가 사용자의 단답형 질문에 자사 콘텐츠를 직접 답변으로 채택하도록 최적화하는 작업

GEO Generative Engine Optimization 

- 생성형 AI가 작성하는 대화형 답변 내에 자사의 브랜드나 콘텐츠가 우선적으로 인용 및 추천되도록 하는 최적화 기술

- 구체적인 수치나 전문가 인용구가 포함될수록 인용 확률이 높아짐

[성능 및 효율성 지표] 

대기 시간 Latency 

- 질문을 던진 후 AI가 첫 번째 글자를 출력할 때까지 걸리는 응답 시간

- 수치가 낮을수록 빠른 서비스

초당 토큰 수 TPS 

- AI가 1초당 생성해 내는 토큰의 수

- AI의 순수한 텍스트 출력 속도를 나타내는 대표 지표

당혹도 PPL 

- AI가 다음 단어를 예측할 때 얼마나 헷갈려하는지 나타내는 지표

- 수치가 낮을수록 모델의 언어 이해도가 높고 우수하다는 뜻

GPU 사용률 

- GPU Utilization AI 연산의 핵심 하드웨어인 그래픽 처리 장치의 가동 효율

- 효율이 높을수록 인프라 비용을 아끼고 있다는 신호

AI 디지털에이전시에서 대한민국의 산업의 발전과 효율적인 인공지능의 운영에 도움을 드리기 위해 준비한 콘텐츠입니다. 

콘텐츠는 예고 없이 수정되거나 삭제될 수 있습니다. 

콘텐츠를 복사하여 다른 매체에 이동하는 것은 금지하며 링크를 활용해 공유하는 것을 권장합니다.