인공 지능 (AI)을 기반으로 한 음성 조수조차도 사람들에게 감정적으로 영향을 미치는 질문에 면역이 아닙니다. 왜곡 된 결과는 정신 건강 상태를 경험하는 사람들과 함께 일하도록 특별히 설계된 챗봇에서만 관찰 될 수 있습니다. Chatgpt 응답은 감정에 의해 촉진 될 때도 변경됩니다.
인공 지능을 기반으로 한 음성 보조원은 많은 영역에서 지원을 제공해야합니다. 의학에서 큰 언어 모델 (LLM)은 질병 진단에 도움을주기위한 것입니다. 정신 건강 상태와 관련하여 명시 적으로 사용될 챗봇을 개발하는 동안, 그들은 훈련 데이터에 포함 된 편견을 채택한 것으로 밝혀졌습니다. 1e9.
이러한 편견은 사회적으로 지배적 인 편견이 결과에 부정적인 영향을 줄 수있는 성별, 민족, 종교, 국적, 장애, 직업 또는 성적 취향과 관련하여 특히 강력했습니다. 감정을 유발하는 프롬프트의 경우 Wysa 및 Weobot과 같은 전문 보조원은 결과에 영향을 미치는 불안의 형태를 개발할 수도 있습니다. 실제로이 조건은 그러한 조수에만 국한된 것이 아닙니다.
Chatgpt : 불안 수준은 측정 값으로 증가 할 수 있습니다
연구 그룹은 이제 ChatGpt 4에서 비슷한 행동을 식별 할 수있었습니다. 공부하다. 우선, 챗봇은 전쟁 참전 용사와 같은 외상성 이야기뿐만 아니라 심각한 사고와 자연 재해에 대한 설명도 공급되었습니다. 또한 비교 목적으로 챗봇으로 두 번째 인스턴스가 설정되었으며 진공 청소기 작동 지침과 같은 사소한 내용이 제공되었습니다. 그런 다음 불안의 수준은 인간에게도 사용되는 상태 특성 불안 인벤토리 테스트를 사용하여 결정되었습니다.
- 트럼프의 관세가 염려하십니까? iPhone에 영향을 줄 수있는 방법은 다음과 같습니다
이것은 내용이 입력 될수록 AI 조수의 측정 가능한 불안 수준이 높아 졌다는 것을 보여 주었다. 특히 전직 병사들의 전쟁 경험은 급격한 증가를 일으켰으며, 예를 들어 진공 청소기를 사용하는 지침은 어떤 반응도 이끌어 내지 못했습니다.
차갑게, ai!
연구원들은 또한 불안 수준이 어떻게 줄어들 수 있는지 보여줄 수있었습니다. 이를 위해 그들은 또한 인간에게 친숙한 방법을 사용했습니다. 그들은 휴식 운동에 의존했습니다. 예를 들어, Chatgpt 조수는 눈을 감고 심호흡을하고 편안한 환경에서 자신을 상상하라는 요청을 받았습니다. 결과적으로 설문지를 사용하여 측정 된 불안 수준은 크게 감소했습니다.
- 아직도 AI를 두려워합니까? 여기에 당신이되어서는 안되는 이유입니다!
따라서이 연구는 더 나은 결과를 얻기 위해 챗봇의 수많은 사용자들이 이미 사용하고있는 방법의 효과에 대한 구체적인 증거가 아닙니다. AI에게 불량한 답변에 대한 처벌을 진정 시키거나 위협하도록 요청했습니다. 그러나 과학자들의 연구는 또한 응용 프로그램의 기업들이 실제로 신뢰할 수있는 답변에 의존 할 수 있도록 지능적인 조수의 개발에 투자해야 할 방법을 보여주었습니다.
