소식

Jan 16, 2024

위험, 기회 및 그것이 인간을 '지루하게' 만드는 방법에 대한 AI 제작자

이 영상은 재생할 수 없습니다. AI 보스: 통제할 수 있는 최악의 시나리오

이 영상은 재생할 수 없습니다

AI 보스: 인류를 통제할 수 있는 최악의 시나리오

"인간은 좀 지루해요. 안녕!" 이것이 개인적인 예측입니다. 인공지능(AI)이 아마도 들어본 적도 없는 가장 중요한 인물 중 한 명에서 인간을 많은 역할로 대체할 것이라는 것입니다.

Emad Mostaque는 기술 회사 Stability AI의 영국 창립자입니다. AI를 사용하여 온라인에서 찾은 이미지를 분석하여 간단한 텍스트 지침으로 이미지를 만드는 도구인 Stable Diffusion을 대중화했습니다.

AI를 사용하면 컴퓨터가 인간처럼 생각하거나 행동할 수 있습니다. 여기에는 키보드 앞에 앉아 명령을 두드리는 사람의 정확한 지시 없이 컴퓨터가 무엇을 해야 할지 배울 수 있는 소위 기계 학습이 포함됩니다. 지난 달에는 1,000명의 전문가들이 개발을 중단하고 잠재적인 위험을 경고하며 AI 시스템 개발 경쟁이 통제 불능이라고 말하는 극적인 경고가 있었습니다.

일요일에 전체 내용을 공개할 인터뷰에서 기술 창업자인 Mostaque는 "우리가 통제할 수 없지만 우리보다 더 유능한 에이전트가 인터넷을 통해 이동하고… 자동화 수준을 달성한다면 어떻게 될까요?"라고 질문합니다. 그 말은?

"최악의 시나리오는 그것이 확산되어 기본적으로 인류를 통제한다는 것입니다."

끔찍하게 들리지만, 우리가 우리 자신보다 더 똑똑한 컴퓨터를 만들면 다음에 무슨 일이 일어날지 확신할 수 없다는 위험을 지적한 사람은 그뿐만이 아닙니다.

Mostaque는 위험을 갑자기 현실로 만드는 사건으로 인해 정부가 곧 충격을 받아 조치를 취할 수 있다고 믿습니다. 그는 톰 행크스가 코로나19에 감염되어 수백만 명이 자리에 앉아 관심을 보인 순간을 지적합니다.

그런 순간이 오면 정부는 "지금 정책이 필요하다"고 결론을 내릴 것이라고 40세의 그는 말합니다.

예를 들어, 조 바이든에 대한 공화당 공격 광고가 가짜 컴퓨터 생성 이미지를 사용하여 제작된 이후 우려가 급증했습니다.

유권자가 신뢰할 수 있는 정보에 위험이 있을 경우 정부는 이에 대응해야 한다고 Mostaque는 말합니다.

그의 우려에도 불구하고 Mostaque는 우리 삶의 거의 모든 부분에 대한 AI의 잠재적 이점이 엄청날 수 있다고 말합니다. 그러나 그는 일자리에 미치는 영향이 적어도 처음에는 고통스러울 수 있다는 점을 인정합니다.

Mostaque는 AI가 "팬데믹보다 더 큰 경제적 영향을 미칠 것"이라고 믿으며 "이 모든 것이 어느 방향으로 진행될지 결정하는 것은 우리에게 달려 있다"고 덧붙였습니다.

일부 일자리는 의심할 여지 없이 사라질 것이라고 골드만삭스 은행은 발전하는 기술로 인해 거의 이해할 수 없는 3억 개의 일자리가 사라지거나 줄어들 수 있다고 제안했습니다.

어느 누구도 로봇으로 대체되기를 원하지 않지만, Mostaque의 희망은 "생산성 증가가 균형을 이루고" 인간이 우리를 인간으로 만드는 일에 집중하고 기계가 나머지 작업을 더 많이 수행할 수 있기 때문에 더 나은 일자리가 창출될 수 있다는 것입니다. 그는 AI의 발전과 그 영향이 산업 혁명보다 훨씬 더 클 수 있다는 영국의 전 최고 과학 고문인 패트릭 밸런스 경(Sir Patrick Vallance)의 의견에 동의합니다.

Mostaque는 겸손한 수학자이며 2020년에 시작한 회사의 창립자입니다. 이 회사의 가치는 이미 10억 달러로 평가되었으며 할리우드 스타 Ashton Kutcher를 포함하여 더 많은 현금이 유입되면서 곧 훨씬 더 많은 가치가 있을 가능성이 높습니다. 일부 추측에서는 그 가치를 40억 달러로 높게 평가했습니다.

일부 경쟁사와 달리 그는 자신의 기술이 오픈 소스로 유지될 것이라고 결심했습니다. 즉, 누구나 코드를 보고, 공유하고, 사용할 수 있다는 뜻입니다. 그의 견해로는 이것이 대중에게 무슨 일이 일어나고 있는지에 대한 어느 정도의 신뢰를 주어야 한다고 생각합니다.

"내 생각에는 신뢰가 필요하지 않아야 합니다."라고 그는 말합니다.

"개방형 모델을 구축하고 공개적으로 수행하는 경우, 잘못한 경우에는 비판을 받아야 하고, 잘한 경우에는 칭찬을 받아야 합니다."

그러나 그의 사업은 소유권과 무엇이 진짜인지에 대한 심오한 질문을 제기하기도 합니다. 사진 대행사 게티 이미지(Getty Images)는 판매하는 이미지에 대한 권리가 침해됐다고 주장하며 이들을 상대로 법적 조치가 진행 중입니다.