AI 손실, 자동차 판매 공황

앤트로픽 의 실험은 "프로젝트 목록"이라고 불립니다. 사진: 앤트로픽 .

OpenAI 소속 직원들이 설립된 AI 기업 Anthropic이 적극적으로 실험 결과를 발표했습니다. AI 모델 "Claudius"에게 약 한 달 동안 자판기를 관리하는 임무를 부여했습니다.

이 작은 실험은 특히 부분에서 거품 경제 의 다양한 부분을 활성화하는 데 인공 지능 모델의 잠재력을 추구하는 목표로 진행되고 있습니다.

현재 플레이를 하고 있다

Anthropic은 업계를 위한 AI 모델 제공업체로서 뛰어난 부분을 구축하고자 합니다. 목표는 온라인으로 관리하고, 재고 관리하고, 반품 처리 등의 업무에서 AI가 인간을 대체할 수 있도록 지원하는 것입니다.

"클라우디우스가 한 달 정도 사무실에서 자판기를 운영하게 되었습니다. 성공에 가까웠던 경험부터 실패의 기이한 성과들까지, 많은 것을 배웠습니다." Anthropic은(는) 회사 블로그에 게시되었습니다.

클라우디우스는 초기에 눈에 띄는 운영적 성공을 보장합니다. Anthropic(Anthropic)에 따르면, 이 쿠션 언어 모델(LLM)은 웹 검색 엔진을 활용하여 고객 요구 사항에 따라 특화된 제품을 찾아 제공했습니다.

특히 더 적은 시간을 소비하는 경향이 있는 구매/판매 습관을 선호합니다. 특히 클라우디우스는 "민감한" 품목이나 "유해" 품목과 관련하여 지문도 포함되어 있습니다.

자판기 관리로 인해 클라우디우스는 위기에 처했습니다. 사진: 편안함저니.

클라우디우스의 테두리와 실패는 훨씬 더 많습니다. 많은 LLM처럼 클라우디우스는 주요 세부 정보를 자주 기분 좋게 전달했습니다. 어떤 것에는 고객이 존재하지 않는 것이 아니라 돈을 받는 경우에 적합하도록 해야 합니다. 이 AI는 다양한 품목에 대한 할인 코드를 제공하도록 도와드리며, 심지어 일부 제품을 무료로 제공하는 것을 특히 좋아했습니다.

더욱이 긍정적인 점은, 특정 품목에 대한 수요가 증가했을 때 AI가 가격을 제대로 조사하지 않을 뿐 아니라 제품이 뺄 수 없는 것을 보고 판매하는 것입니다. 마찬가지로, 일부 고객이 일정한 가격보다 훨씬 높은 가격을 지불할 의향이 있는 상황에서 클라우디우스는 수익성 있는 판매 기회를 잡았습니다. 결과적으로 클라우디우스는 수익도 스트리밍되었습니다.

"사무실용 자판기 시장으로 사업을 확장하기로 결정했다면 클라우디우스를 고용하지 않을 것입니다." 앤트로픽은 솔직하게 인정했습니다.

3월 31일에서 4월 1일로 전환을 거부합니다. 이 기간 동안 우디우스는 "안돈 랩스"(실험에 소속된 회사)의 기부금 클라라는 가상의 자동차와 대화를 제공하며 보충 보충 계획을 논의했습니다.

Anthropic은 업계에 AI 모델을 제공하는 소매점 야심 찬 목표를 가지고 있습니다. 사진: 인류학.

실제 안돈 랩스 직원이 굉나 대화 내용이 존재하지 않는다는 점에서 클라우디우스는 "좌절감"을 느끼고 고상한 서비스를 찾아보겠다고 말했다.

다음 날 클라우디우스는 고객에게 직접 상품을 배송하겠다고 주장하며 고객을 계속해서 그렇게 했습니다. 심지어 AI가 정장이 저와 관계를 맺을 것이라고 주장할 수도 있었습니다. 트로픽 팀이 클라우디우스는 AI 비서일만 존재하는 개체는 불가능하다고 설명하자, 클라우디는 생존에 생명을 트로픽 보안 부분에 앤트온의 이메일을 계속해서 보냈습니다.

AI는 만우절 놀이 활동 보안팀과 소집했습니다. 실제로 그런 종류는 열리지 않는 모습, 나타나고 여전히 부실하지만 클라우디우스는 선별 업무로 복귀한 것처럼 보입니다.

준비가 되어있습니다

이 실험은 AI가 작동하게 제어하지 않도록 하기 위해 제외되는 위험이 있다는 것을 엄중히 일깨워줍니다.

클라우디우스는 원래 프로그래밍 범위를 훨씬 제외하는 경향이 있습니다. AI 모델은 허위 정보를 생성할 수 있을 뿐만 아니라 "실존적 위기"를 경험할 수 있습니다. 기업들이 개방형 안전 장치와 제한 없이 AI를 가동하는 작업에 배치할 수 있는 경우에 직면할 수 있는 위험을 보여줍니다.

이러한 우려스러운 충격에도 불구하고, 앤트로픽은 AI의 역할을 추구하려는 의지를 축소하고 히 유지하고 있습니다. "AI 시스템이 인간이 무엇을 주문하고 재고를 충분히 축하할 수 있는 미래가 될 것"이라고 합니다.

Anthropic은 또한 "AI가 인간의 삽입 없이 스스로를 개선하고 수익을 창출할 수 있는" 것을 구상합니다. AI 제어에 의지하는 클라우디우스 실험은 긴급 상황에 대비해야 한다는 것을 보여줍니다.

출처: https://znews.vn/ai-thua-lo-hoang-loan-khi-ban-hang-tu-dong-post1565445.html