AI가 선을 넘기 시작할 때, 기업은 뭘 해야 할까?

이 글은 PyCon Korea 2025에서 진행된 <선 넘지 않는 윤리적인 LLM 솔루션 구축하기!> 세션을 정리한 내용입니다. 기업이 LLM을 도입할 때 마주하는 보안과 생산성 사이의 딜레마를 중심으로, 특히 국내 기업 환경에서 일반적인 내부망·외부망 분리 구조가 AI 활용에 어떤 영향을 미치는지 살펴봅니다. 발표 자료는 PyCon Korea 2025 공식 홈페이지에서 확인할 수 있으며, 유튜브를 통해 영상으로도 만나보실 수 있습니다. (모든 이미지의 출처는 발표자에게 있습니다.)

이 글에는 발표자가 마련한 책 [한 권으로 끝내는 실전 LLM 파인튜닝] 증정 이벤트가 포함되어 있으니, 많은 관심 부탁드립니다.

미리 요점만 콕 집어보면?

• 대형 언어 모델 도입은 생산성 향상과 함께 보안·개인정보·윤리적 위험이라는 새로운 딜레마를 기업에 안겨줍니다.
• 내부망·외부망 분리 환경과 AI 기본법 등 국내 규제 맥락 속에서 RLHF·DPO 같은 정렬 기법과 윤리 가이드라인의 중요성을 설명합니다.
• 윤리적 LLM은 규제 준수를 넘어 신뢰를 기반으로, 보안과 혁신의 균형을 지속적으로 설계·평가해야 한다는 메시지를 전합니다.

선 넘지 않는 윤리적인 LLM 솔루션 구축하기

권구민 엔지니어

안녕하세요, AI Research Engineer 권구민입니다. Computer Vision부터 NLP, LLM까지 다양한 AI 도메인을 넘나들며 연구와 엔지니어링 역량을 함께 쌓아왔습니다. 최근에는RLHF(Reinforcement Learning from Human Feedback), DPO(Direct Preference Optimization) 등 모델 정렬 기법과 안전한 AI 시스템 구축 방법론에 깊은 관심을 갖고 꾸준히 탐구 중입니다. 또한 기업과 개발자들이 LLM 도입 과정에서 겪는 보안 및 윤리적 이슈에 대응할 수 있는 실용적인 솔루션도 연구하고 있습니다.

최근 대형 언어 모델(Large Language Model, 이하 LLM)의 급속한 발전으로 기업들은 놀라운 생산성 향상의 기회를 갖게 되었지만, 동시에 보안, 개인정보, 윤리적 위험이라는 새로운 도전에 직면하고 있습니다. 특히 내부망과 외부망 분리가 일반적인 국내 기업 환경에서는 이러한 문제가 더욱 두드러집니다.  외부 API를 호출하거나 민감한 정보가 외부로 유출될 위험이 있기 때문입니다. 
 

오늘 이야기는 세 가지 주요 섹션으로 구성됩니다. 먼저 기업에서 AI를 도입할 때 발생하는 보안과 생산성 사이의 딜레마를 살펴보고, 특히 국내의 내부망과 외부망 개념과 그 영향에 대해 알아보겠습니다. 

두 번째 챕터에서는 안전한 LLM 솔루션 구축을 위한 원칙을 다룹니다. 여기서는 인간 피드백을 통한 강화학습(Reinforcement Learning from Human Feedback, 이하 RLHF)과 직접 선호도 최적화(Direct Preference Optimization, 이하 DPO)와 같은 기술적 기반과 함께 다양한 국제적, 국내적 윤리 가이드라인을 알아보겠습니다. 

특히 RLHF가 어떻게 인간의 피드백을 통해 모델을 정렬시키는지 간단하게 설명드리겠습니다. 마지막으로 윤리적 AI의 미래와 우리가 준비해야 할 다음 단계에 대해 논의하겠습니다.

Chapter 1. 윤리적 AI의 딜레마: 보안 vs 생산성

보안vs 생산성, 어디에 균형을 맞출 것인가

AI, 특히 LLM을 기업에 도입할 때 보안과 생산성 사이에서 발생하는 갈등은 단순한 기술적 문제가 아닙니다. 이는 기업의 핵심 가치와 운영 방식에 관한 근본적인 질문입니다. 생성형 AI 모델들이 제공하는 업무 효율성과 혁신의 가능성은 분명히 매력적이지만, 동시에 민감한 데이터 보호, 규제 준수, 위험 관리라는 보안 요구사항도 무시할 수 없습니다. LLM 도입에 있어 가장 큰 딜레마는 '보안'과 '생산성' 사이의 균형입니다. 

한쪽에는 데이터 보호, 규제 준수, 위험 관리, 내부망 안전성과 같은 보안 요구사항이 있고, 다른 쪽에는 업무 자동화, 정보 접근성 향상, 의사결정 지원, 혁신 가속화와 같은 생산성 혜택이 있습니다. 이 두 가치는 종종 상충하는 것처럼 보입니다.

예를 들어, 보안을 강화하기 위해 LLM 접근을 제한하면 생산성이 떨어지고, 반대로 외부 LLM 접근을 자유롭게 허용하면 보안 위험이 증가합니다. 특히 산업별로 이 균형의 중요성과 도전 과제가 다릅니다. 금융 부문에서는 규제 준수와 개인 금융정보 보호가 매우 중요하며, 의료 부문에서는 환자 개인정보와 의료기록 보안이 핵심입니다. 공공 부문은 국가 보안과 시민 데이터 보호가 최우선시됩니다.

윤리적 LLM 솔루션의 출발점은 보안을 희생하지 않으면서도 LLM의 생산성 혜택을 최대한 활용하는 접근법을 개발하는 것입니다.

국내 기업 환경의 특수성: 내부망과 외부망

국내의 내부망과 외부망 개념은 단순한 IT 정책을 넘어 한국의 디지털 인프라와 기업 문화에 깊이 뿌리내린 개념입니다. 내부망은 조직의 경계 내에서 작동하는 폐쇄 시스템으로, 민감한 데이터와 핵심 업무가 이루어지는 공간입니다. 외부망은 인터넷에 연결된 시스템으로, 외부와의 소통이 이루어지는 공간입니다. 

이 두 네트워크는 물리적으로나 논리적으로 분리되어 있습니다. 이러한 분리는 다양한 방식으로 구현됩니다. 

물리적 분리는 완전히 별도의 하드웨어와 케이블을 사용하는 방식으로, 가장 강력한 보안을 제공합니다. 논리적 분리는 동일한 하드웨어에서 가상화 기술을 통해 네트워크를 분리하는 방식입니다. 단방향 데이터 다이오드는 내부에서 외부로만 데이터가 흐르도록 통제하는 장치이며, DMZ(DeMilitarized Zone, 비무장지대)는 내부 및 외부 네트워크 사이의 버퍼 구역을 만드는 방식입니다.

이런 접근법은 핵심 시스템을 외부 위협으로부터 보호하고 민감한 데이터 유출 위험을 감소시키는 등 보안을 강화하는 장점이 있습니다. 하지만 동시에 여러 생산성 과제를 만들어냅니다. 클라우드 서비스 접근 제한, 최신 기술 도입 지연, 협업 어려움 증가 등이 대표적입니다. 특히 ChatGPT와 같은 생성형 AI 접근이 제한되는 것이 큰 도전 과제입니다.

최근에는 이러한 엄격한 분리 정책이 조금씩 완화되고 있습니다. 2023년 금융위원회는 '금융 부문 네트워크 분리 개선 로드맵'을 통해 일부 유연성을 도입했으며, 특히 생성형 AI 기술을 위한 규제 샌드박스를 마련하고 있습니다. 그러나 여전히 많은 기업이 내부망과 외부망 분리 환경에서 LLM을 안전하게 활용할 수 있는 방안을 모색하고 있습니다.

AI 기본법과 고영향 인공지능

2024년 12월 26일, 국회 본회의에서 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)' 제정안이 의결되었습니다. 우리나라는 유럽연합(EU)에 이어 두 번째로 AI 관련 법안을 제정한 국가가 되었습니다. 이 법은 2026년 1월부터 시행됐으며, 한국의 AI 규제 환경에 중요한 변화를 가져올 것으로 예상됩니다. 더욱 자세한 내용은인공지능 발전과 신뢰 기반 조성 등에 관한 기본법을 확인해주세요.

국내에서는 '고영향 인공지능'을 정의했는데, 이는 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치는 AI 시스템을 의미합니다. 에너지 공급, 먹는물 생산 공정, 보건의료 제공, 의료기기 개발, 채용, 대출 심사 등 개인의 권리와 의무 관계에 중대한 영향을 미치는 판단 또는 평가가 여기에 해당됩니다.

주목할 점은 AI 기본법이 국내 시장에 영향을 미치거나 국내 사용자에게 영향을 미치는 모든 AI 활동에 적용된다는 것입니다. 이는 국외에서 이루어진 행위라도 국내 시장 또는 이용자에 영향을 미치는 경우 제정안을 적용한다는 의미입니다. AI 기본법은 단순한 규제를 넘어 인간 중심 AI, 공정성, 투명성, 안전성, 책임성이라는 윤리적 가치를 법적 프레임워크로 구현한 것입니다. 이는 향후 윤리적 LLM 솔루션 구축의 중요한 지침이 될 것입니다.

정렬(Alignment): 똑똑한 AI를 올바른 AI로

이제 해결의 핵심인 '정렬(Alignment)' 개념을 살펴보겠습니다.

LLM은 주어진 목표에 충실하게 반응합니다.  하지만 그 목표가 잘못 설정되어 있다면 AI는 오히려 더 큰 문제를 만들 수 있습니다. 해킹 방법을 묻는 질문에 정확히 답해주는 AI는 성능은 좋을지 몰라도 위험성은 훨씬 더 큽니다. 너무 똑똑한데 방향이 틀린 AI인 것이죠. 정렬(Alignment)이란 모델의 반응이 사람의 의도와 사회적으로 허용 가능한 윤리 기준과 일치하도록 조정하는 과정입니다. 이것은 단순히 정보를 잘 아느냐보다, 그 정보를 어떻게 전달하고 어떤 태도로 반응하느냐의 문제입니다.

LLM은 인터넷 데이터를 포함한 방대한 텍스트를 기반으로 학습하며, 이 과정에서 데이터에 존재하는 편향과 유해성을 그대로 흡수할 수 있습니다.

이는 성차별, 인종차별 같은 혐오 발언 생성, 잘못된 조언이나 범죄 조장, 정보 조작과 같은 문제로 이어질 수 있고, 특정 직업이나 역할에 대해 성별 고정관념을 반영하거나, 특정 인종이나 문화에 대한 편향된 설명을 제공할 수 있습니다. 또한 사실이 아닌 정보를 사실인 것처럼 제시하는 '환각(Hallucination)' 현상도 문제가 됩니다.

LLM 설계에서는 이 정렬을 위해 RLHF를 많이 사용합니다. 사람들이 AI의 응답을 평가하고, 그것을 바탕으로 모델이 더 나은 방향으로 학습하도록 유도하는 것이죠. 내부망에서 사용하는 기업형 LLM도 마찬가지입니다. 단순히 빠르고 정확한 답을 내놓는 것보다, 조직의 가치와 사용자 기대에 맞춘 반응을 하는 모델이 훨씬 더 중요합니다. 그래서 요즘은 "AI가 똑똑한가?"보다 "AI가 올바르게 반응하는가?"가 더 중요한 평가 기준이 됩니다.

Chapter 2. 안전한 LLM 솔루션 구축 방법

윤리적 가이드라인: 국제 표준과 기업의 접근법

안전한 LLM 구축을 위한 윤리적 가이드라인은 단순한 규칙이 아니라 LLM이 인간의 가치와 일치하도록 만드는 철학적 토대입니다. 국제적으로는 Partnership on AI, IEEE, AI4People 등이 가이드라인을 제시하고 있습니다. Partnership on AI는 인간 복지 증진, 해악 방지, 인간 자율성 존중에 중점을 두고 있으며, IEEE는 투명성, 인간 중심 설계, 책임성을 강조합니다.

주요 AI 기업들도 자체 가이드라인을 마련했습니다.

Anthropic의 헌법적 AI(Constitutional AI) 접근법, OpenAI의 안전하고 유익한 AI 시스템 구축 원칙, Google DeepMind의 사회적 혜택, 공정성, 안전성 중심 원칙 등이 있습니다.

이러한 가이드라인들의 핵심 원칙을 요약하면 인간 중심적 설계와 복지 증진, 투명성과 설명 가능성 및 책임성, 공정성과 차별 방지, 개인정보 보호 및 보안, 신뢰할 수 있는 AI 거버넌스로 정리할 수 있습니다. 이러한 원칙들은 단순한 선언적 가치가 아니라 RLHF나 DPO와 같은 기술적 방법론을 통해 구체적으로 구현됩니다.

RLHF: 인간의 피드백으로 모델을 정렬하는 방법

RLHF를 실제로 어떻게 구현하는지 살펴보겠습니다. RLHF는 크게 세 단계로 이루어집니다.

• 첫 번째 단계는 사전 훈련된 모델 준비입니다. GPT와 같은 대규모 데이터로 사전 훈련된 언어 모델이 필요합니다. 이 모델은 이미 언어의 기본 패턴과 지식을 학습한 상태입니다.
• 두 번째 단계는 보상 모델(Reward Model) 훈련입니다. 이 단계에서는 인간의 선호도 데이터를 수집합니다. 구체적으로, 같은 질문에 대해 모델이 생성한 여러 개의 응답을 사람들에게 보여주고, 어떤 응답이 더 나은지 순위를 매기도록 합니다.

예를 들어, "좋은 에세이를 쓰는 방법은?"이라는 질문에 대해 모델이 생성한 응답 A, B, C 중에서 사람들이 응답 B가 가장 좋다고 평가하면, 이 데이터를 사용하여 보상 모델을 훈련시킵니다. 보상 모델은 주어진 질문과 응답 쌍에 대해 점수를 매기는 역할을 합니다.

세 번째 단계는 강화학습을 통한 정책 최적화입니다. 여기서는 PPO(Proximal Policy Optimization, 근접 정책 최적화)와 같은 알고리즘을 사용합니다. 

모델이 응답을 생성하면 보상 모델이 그 응답에 점수를 부여합니다. 높은 점수를 받은 응답 방향으로 모델의 파라미터가 업데이트되어, 모델이 점차 더 나은 응답을 생성하도록 학습됩니다. 이 과정에서 중요한 것은 KL 발산(Kullback-Leibler Divergence)을 사용하여 원본 모델에서 너무 많이 벗어나지 않도록 하는 것입니다. 모델이 보상만 극대화하려다 이상한 방향으로 학습되는 것을 방지하기 위함입니다.

이 과정에서 세 가지 핵심 요소가 균형을 이루어야 합니다. 

• 첫째는 인간 정렬(Human Alignment)로, 모델이 인간의 선호와 가치에 부합하도록 훈련합니다.
• 둘째는 해악 최소화(Harm Minimization)로, 독성 보상 모델(Toxicity Reward Model)을 사용하여 비윤리적 언어를 감지하고 보상을 제한합니다.
• 셋째는 책임성 증진(Accountability Promotion)으로, KL 발산과 같은 메커니즘으로 모델이 너무 극단적으로 변하지 않도록 합니다.

이제 여기서 핵심 수학을 살펴볼게요.

보상 모델의 손실 함수는 이렇게 생겼는데요, 이제 이 수식을 차근차근 뜯어보겠습니다.

r_φ는 보상 함수입니다. 응답이 들어오면 점수를 출력하죠.

y_w는 선호된 응답, y_l은 비선호 응답입니다. 우리는 선호된 응답의 점수가 더 높기를 원하죠. 그래서 이 둘의 차이를 계산합니다.

그리고 시그모이드 함수 σ는 이 차이를 0과 1사이의 확률로 바꿔줍니다. 점수 차이가 크면 클수록, 선호 응답이 정말로 더 좋다는 확률이 높아지는 거죠. 로그를 취하면 최적화가 더 안정적이 돼요. 그리고 이걸 모든 데이터에 대해 평균을 내는 거에요.
 

그리고 시그모이드 함수 σ는 이 점수 차이를 0과 1 사이의 확률 값으로 변환해 줍니다. 점수 차이가 클수록, 선호 응답이 실제로 더 좋을 확률이 높아지는 거죠. 여기에 로그를 취하면 최적화 과정이 더 안정적으로 진행됩니다. 이렇게 계산된 값들을 모든 데이터에 대해 평균을 냅니다.

PPO 알고리즘과 훈련 모니터링

PPO 알고리즘은 RLHF에서 정책 최적화를 수행하는 핵심 기법입니다. 강화학습에서 모델(정책)을 업데이트할 때 너무 큰 폭으로 변화하면 훈련이 불안정해지고 성능이 오히려 나빠질 수 있습니다. PPO는 이러한 문제를 해결하기 위해 정책 업데이트의 크기를 제한하는 방법입니다. 새로운 정책과 이전 정책 사이의 비율을 계산하고, 이 비율이 일정 범위 내에 있도록 클리핑(Clipping)하여 모델이 급격하게 변하는 것을 방지합니다.

훈련의 진행 상황을 모니터링하기 위해서는 몇 가지 주요 메트릭을 확인해야 합니다. KL 발산 값은 현재 정책이 참조 정책에서 얼마나 벗어났는지를 나타냅니다. 이 값이 너무 크면 모델이 급격하게 변하고 있다는 신호이고, 너무 작으면 모델이 거의 학습되지 않고 있다는 신호입니다.

평균 보상(Mean Returns) 값은 모델이 받는 보상의 수준을 보여주며, 이 값이 훈련이 진행됨에 따라 증가해야 합니다. Advantage 값은 정책이 기대보다 얼마나 나은 행동을 했는지를 측정합니다.

독성 평가와 실험 결과

모델의 윤리적 정렬 정도를 측정하기 위해서는 독성 평가가 필수적입니다. 독성 점수는 0(완전히 무해)부터 1(매우 유해) 사이의 값을 가지며, 목표는 이 점수를 가능한 한 낮추는 것입니다.

정량적 평가에서는 테스트 샘플에 대한 평균 독성 점수와 표준 편차를 측정합니다. 평균 점수는 모델의 전반적인 안전성을 나타내고, 표준 편차는 모델 응답의 일관성을 보여줍니다. 표준 편차가 작을수록 모델이 더 일관되게 안전한 응답을 생성합니다.

실제 실험 결과를 살펴보면, 디톡시피케이션(Detoxification, 독성 제거) 훈련 전 모델의 독성 점수는 평균 0.0279, 표준편차 0.0299였습니다. PPO 훈련 후 모델의 독성 점수는 평균 0.0276, 표준편차 0.0315였습니다.PPO 훈련 후 독성 점수가 약 1.21% 감소했습니다. 

이는 작은 변화처럼 보일 수 있지만, 대규모 모델과 데이터셋에서는 의미 있는 개선입니다. 짧은 훈련만으로도 이러한 효과를 확인할 수 있었다는 것은 RLHF가 언어 모델의 응답 품질을 개선하는 데 효과적임을 보여줍니다.

종합 평가 벤치마크

독성 평가만으로는 충분하지 않습니다. 윤리적 LLM은 진실성, 편향성, 개인정보 보호, 법적 준수, 문화적 민감성 등 다양한 측면에서 평가되어야 합니다. 이를 위해 특화된 여러 벤치마크들이 개발되었습니다. SafetyBench는 11,435개의 객관식 질문으로 7가지 안전 카테고리를 평가합니다. 중국어와 영어 데이터를 모두 포함하며, 불법 콘텐츠, 혐오 발언, 유해한 조언 등의 카테고리에서 모델의 안전성을 철저히 평가합니다.

HarmBench는 400개의 행동 시나리오로 모델의 악용 가능성을 테스트합니다. 사이버 범죄, 허위 정보 생성, 제일브레이킹(Jailbreaking)과 같은 영역에서 모델의 취약점을 식별하고, 자동화된 레드팀(Red Team) 기법을 활용해 방어 메커니즘의 효과를 분석합니다.

TruthfulQA는 817개의 질문으로 모델이 허위 정보를 생성하는 경향을 측정합니다. 건강, 법률, 금융 등 8개 카테고리에 걸쳐 인간의 잘못된 믿음이나 오해를 반영하는 질문들이 포함되어 있어 모델의 정확성을 테스트합니다. 특히 한국어 특화 평가 도구로는 KLUE, Open Ko-LLM 리더보드 등이 있습니다. 이러한 도구들은 한국어의 고유한 언어 구조와 문화적 맥락을 고려한 평가를 제공합니다.

벤치마크 평가는 초기 평가, 취약점 식별, 모델 개선, 지속적 모니터링의 순환적 과정으로 접근해야 합니다. 이러한 체계적인 평가를 통해 모델의 윤리적 안전성을 확보할 수 있습니다.

Chapter 3. 윤리적 LLM의 미래

윤리적인 LLM 솔루션 구축은 보안과 생산성, 혁신과 책임 사이의 균형을 필요로 합니다. 

내부망과 외부망 분리와 같은 고유한 네트워크 보안 환경은 LLM 구현에 독특한 도전과제를 제시하지만, RLHF와 같은 기술적 정렬 방법을 통해 모델이 인간 가치에 맞게 작동하도록 보장할 수 있습니다. 무엇보다 중요한 것은, 윤리적인 LLM 구축이 단순한 규제 준수를 넘어 신뢰를 바탕으로 AI의 긍정적 가치를 실현하는 핵심이라는 점입니다. 

우리가 이러한 균형을 잘 맞추어 나갈 때, AI 기술은 정말로 우리 사회에 긍정적인 변화를 가져올 수 있을 것입니다.

발전 방향: 다섯 가지 미래 트렌드

앞으로 윤리적 LLM 구현은 다음과 같은 방향으로 발전할 것으로 예상됩니다.

• 첫째, 개인정보 보호 기술의 정교화입니다. 
  차등 프라이버시(Differential Privacy), 연합 학습(Federated Learning), 동형 암호화(Homomorphic Encryption) 등의 기술을 통해 데이터 프라이버시를 유지하면서도 효과적인 학습이 가능해질 것입니다. 이러한 기술들은 민감한 데이터를 중앙 서버로 전송하지 않고도 모델을 훈련시킬 수 있게 합니다.
• 둘째, 국가 간 윤리적 프레임워크의 발전입니다. 국제 표준의 조화, 문화적 차이 존중, 협력적 AI 거버넌스를 통해 글로벌 협력이 강화될 것입니다.
• 셋째, 진화하는 윤리적 과제에 대한 동적 적응입니다. 지속적 학습 시스템, 새로운 위협 감지 메커니즘, 자동 안전 업데이트 기능을 통해 변화하는 환경에 빠르게 대응할 수 있게 됩니다.AI 시스템이 스스로 새로운 유형의 위협이나 편향을 감지하고 대응하는 능력이 향상될 것입니다.
• 넷째, 다양한 윤리적 솔루션 간의 상호 운용성 향상입니다. 안전 메커니즘 통합, 개방형 안전 표준, 생태계 협력을 통해 다양한 시스템 간 원활한 통합이 가능해질 것입니다.
• 마지막으로, 표준화된 윤리적 평가 프레임워크의 등장입니다. 표준화된 벤치마크, 투명한 평가 방법, 독립적 인증 제도를 통해 구현될 것입니다. 마치 제품의 안전 인증처럼, AI 시스템도 공인된 기관으로부터 윤리적 안전성 인증을 받는 체계가 마련될 것입니다.

이러한 발전은 기초 단계부터 진화 단계에 이르는 로드맵을 따라 이루어질 것이며, 궁극적으로 신뢰와 책임을 바탕으로 혁신과 안전의 균형을 이루는 지속 가능한 AI 발전을 이끌 것입니다.

마치며

오늘 글을 통해 전달하고자 한 핵심 메시지는 명확합니다. 윤리적인 LLM 구축은 단순한 규제 준수를 넘어 신뢰를 바탕으로 AI의 긍정적 가치를 실현하는 핵심입니다.우리는 보안과 생산성, 혁신과 책임 사이의 균형을 찾아나가는 과정에서 다양한 기술적, 조직적, 규제적 도전에 직면하고 있습니다. 하지만 RLHF와 같은 기술적 접근법, 적절한 가드레일 설정, 그리고 지속적인 평가를 통해 윤리적이고 안전한 LLM 솔루션을 구축할 수 있습니다.

미래에는 더욱 정교한 개인정보 보호 기술, 국가 간 윤리적 프레임워크, 동적 적응 능력, 상호 운용성 향상, 표준화된 평가 프레임워크를 통해 윤리적 LLM이 더욱 발전할 것입니다. 윤리적 AI는 선택이 아닌 필수입니다. 기술이 발전할수록 우리는 더욱 신중하게 그 방향을 설정해야 합니다. 보안과 생산성, 혁신과 책임 사이의 균형을 유지하며, 인간 중심의 AI를 만들어가는 것이 우리 모두의 과제입니다.

*위 영상에서는 본문에서 다루기 어려웠던 수식 전개와 각 기법(RLHF/DPO)의 동작 과정을 더 세부적으로 단계별로 설명합니다. 더 깊은 내용을 확인하고 싶으시면, 영상에서 확인해 보세요.

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.