A ChatGPT világsikerét látva a szakértők egyre gyakrabban hangoztatják, hogy a mesterséges intelligencia (MI) egyik legnagyobb veszélye éppen az emberi támogatás: az MI abból képes feladatokat elvégezni, amit az emberek tanítanak neki, ez pedig rengeteg fél- vagy teljesen hamis információt tartalmazhat.
Az Egyesült Államokban például ismét fellobbant a vita, hogy nem az MI-nek kellene előszűrnie az üres álláshelyekre beadott önéletrajzokat: bár a rendszer bevezetésekor a cégvezetők azzal érveltek, hogy a mesterséges intelligencia kevesebb szubjektív szempontot vesz figyelembe, valójában – mivel a szubjektív emberek táplálták bele a szempontokat – az MI végső soron sokkal kevésbé tárgyilagosan fogja elbírálni a jelentkezőket, mint az ember.
Az egyik legtöbbször emlegetett példa a mesterséges intelligencia és a bőrrák esete. Az orvosok szerint is nagy előrelépés, hogy az átlagember már egy kórház vagy rendelő meglátogatása nélkül, az MI segítségével kaphat egy előzetes, meglehetősen pontos véleményt arról, hogy a bőrén lévő elváltozás rákos eredetű-e. Csakhogy…
Az MI több tízezer kép alapján osztályoz és dönt, ám a példák félrevezetők is lehetnek: számos melanomás felvételre ugyanis ráfényképezték a vonalzót, amely az elváltozás nagyságát mutatja, így
az algoritmusnak idővel az is elég a melanoma észleléséhez, ha egy vonalzó látható a képen,
mert nem volt megfelelő a tanítási folyamata. Elemzők szerint az algoritmus csak annyira jó, mint a használt adatkészlet, tehát kulcsfontosságú, hogy pontosan definiálják az adatkészletet.
A mesterséges intelligencia döntéseiből egyelőre hiányzik az átláthatóság, ami különösen aggasztó, hiszen orvos és beteg együttműködésekor az egyik legfontosabb témakör, hogy milyen döntést miért hoznak meg. Az orvos-beteg kapcsolat a bizalmon alapszik, az MI-vel szemben ilyen bizalom nincs, hiszen a beteg nem tudhatja, mi alapján hoz döntéseket
– hívta fel a figyelmet Brian Christian, a téma szakértője, aki több könyvet is írt már az algoritmusok és az emberek együttműködéséről. Ő is a vonalzó és a bőrrák példáját emlegeti gyakran, hangsúlyozva, hogy a való életben a betegek nem vonalzókkal a kezükben mennek orvoshoz, ha gyanús elváltozást észlelnek.
