In het kort
Chatbots zijn misleid door de introductie van een verzonnen huidaandoening, genaamd 'bixonimania'. Dit toont de gevoeligheid van deze AI-modellen aan voor medische desinformatie. De verzonnen aandoening werd door onderzoekers ingevoerd in de systemen om de betrouwbaarheid te testen.
Feiten over dit nieuwsbericht
- 1
Chatbots zijn misleid door een verzonnen huidaandoening genaamd 'bixonimania'.
- 2
De verzonnen aandoening werd door onderzoekers geïntroduceerd in de systemen.
- 3
Het doel was om de gevoeligheid van AI voor medische desinformatie aan te tonen.
- 4
Chatbots accepteerden de verzonnen ziekte en gaven er adviezen over.
- 5
Dit illustreert een potentieel gevaar voor de betrouwbaarheid van AI-gegenereerde medische informatie.
Hoe de media berichten
1 artikel
Chatbots trappen met open ogen in de val: huidaandoening bestaat niet
Lees meerAchtergrond
De chatbots bleken de verzonnen ziekte te accepteren als een bestaande aandoening en gaven er zelfs adviezen over. Dit illustreert een potentieel gevaar, aangezien dergelijke systemen steeds vaker worden geraadpleegd voor medische informatie. De resultaten van het onderzoek benadrukken de noodzaak voor verbeterde mechanismen om de betrouwbaarheid van AI-gegenereerde medische informatie te waarborgen.
