당신은 AI를 얼마나 잘 이해하고 있나요? 알아야 할 7가지 용어

[광고_1]

인공지능(AI)의 급속한 발전으로 인해 인간이 AI의 영향을 이해하는 것보다 더 빠른 속도로 발전하고 있다는 우려가 제기되고 있습니다.

ChatGPT와 같은 도구가 등장한 이후 일반 AI의 사용이 크게 증가했습니다. 이러한 도구는 많은 이점을 제공하지만, 해로운 방식으로 오용될 수도 있습니다.

이러한 위험을 관리하기 위해 미국과 여러 국가는 Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI 등 7개 회사와 협정을 체결하여 AI 기술 개발에 있어 안전한 관행을 준수하기로 했습니다.

백악관의 발표에는 일반인에게는 생소할 수 있는 "레드팀"과 "워터마킹"과 같은 용어가 포함되었습니다. 주의해야 할 AI 관련 용어 7가지를 소개합니다.

머신러닝

이 AI 분야는 패턴을 식별하여 특정 작업을 정확하게 수행하도록 기계를 훈련시키는 것을 목표로 합니다. 그러면 기계는 해당 데이터를 기반으로 예측을 내릴 수 있습니다.

딥러닝

창의적인 AI 작업은 종종 딥 러닝에 의존합니다. 딥 러닝은 신경망을 사용하여 컴퓨터를 훈련시키는 방법입니다. 신경망은 인간 뇌의 뉴런을 모방하도록 설계된 알고리즘 세트로, 패턴 간에 복잡한 연결을 만들어 텍스트, 이미지 또는 기타 콘텐츠를 생성합니다.

딥 러닝 모델은 여러 층의 뉴런으로 구성되어 있기 때문에 기존 머신 러닝보다 더 복잡한 패턴을 학습할 수 있습니다.

대규모 언어 모델

대규모 언어 모델(LLM)은 엄청난 양의 데이터를 통해 학습되며 언어를 모델링하거나 시퀀스의 다음 단어를 예측하는 것을 목표로 합니다. ChatGPT 및 Google Bard와 같은 대규모 언어 모델은 요약, 번역, 대화 등의 작업에 사용할 수 있습니다.

연산

기계가 예측을 하고, 문제를 해결하고, 작업을 완료할 수 있도록 하는 일련의 지침이나 규칙입니다. 알고리즘은 쇼핑 추천을 제공하고 사기 탐지에 도움을 줄 수 있으며, 고객 서비스 채팅 기능도 제공할 수 있습니다.

편견

AI는 방대한 데이터 세트를 통해 훈련되므로 증오 표현 등 유해한 정보를 데이터에 포함할 수 있습니다. AI를 훈련하는 데 사용되는 데이터 세트에는 인종차별과 성차별이 나타날 수도 있으며, 이로 인해 편향된 콘텐츠가 생성될 수 있습니다.

AI 회사들은 AI 시스템에서 해로운 편견과 차별을 피하는 방법을 더욱 심층적으로 모색하기로 합의했습니다.

레드팀

기업들이 백악관에 한 약속 중 하나는 AI 모델과 시스템 내부와 외부에서 "레드팀 구성"을 실시하는 것입니다.

"레드팀"은 잠재적인 위험을 발견하기 위해 모델을 테스트하는 것을 말합니다. 이 용어는 팀이 공격자의 행동을 시뮬레이션하여 전략을 수립하는 군사 관행에서 유래되었습니다.

이 방법은 Microsoft, Google과 같은 회사의 클라우드 컴퓨팅 플랫폼과 같은 시스템의 보안 취약성을 테스트하는 데 널리 사용됩니다.

워터마킹

워터마크는 오디오나 이미지가 AI가 생성했는지 아닌지를 알 수 있는 방법입니다. 검증을 위해 수집된 사실에는 해당 사실을 만든 사람에 대한 정보, 사실의 생성 또는 수정 방법과 시기 등에 대한 정보가 포함될 수 있습니다.

예를 들어, Microsoft는 자사의 AI 도구로 생성된 이미지에 워터마크를 넣겠다고 약속했습니다. 이들 기업은 또한 백악관에 사진에 "워터마크"를 넣거나 출처를 기록하여 AI가 생성한 사진이라는 것을 식별하겠다고 약속했습니다.

워터마크는 지적 재산권 침해를 추적하는 데에도 일반적으로 사용됩니다. AI가 생성한 이미지의 워터마크는 7번째 픽셀마다 미세한 변화가 생기는 등 눈에 띄지 않는 노이즈로 나타날 수 있습니다.

그러나 AI가 생성한 텍스트에 워터마킹을 추가하는 것은 훨씬 더 복잡할 수 있으며, 단어 템플릿을 조정하여 AI가 생성한 콘텐츠로 식별해야 할 수도 있습니다.

황톤 (포인터에 따르면)

[광고_2]
원천

4월 30일 퍼레이드를 위해 36개 군·경찰 부대가 훈련하고 있다.

베트남뿐만 아니라..., 그리고...!

빅토리 - 베트남에서의 인연: 최고의 음악과 세계의 자연경관이 어우러진 순간

4월 30일 기념행사를 위해 전투기와 1만 3천 명의 군인이 처음으로 훈련을 실시했습니다.