Dziś po polsku.

Skandal na szwedzkim uniwersytecie. Ekspertka od etyki AI oskarżona o oszustwo

Uznana specjalistka od etyki sztucznej inteligencji z uniwersytetu w szwedzkim mieście Umea prof. Virginia Dignum została oskarżona o oszustwo naukowe. Zarzuty dotyczą jej popularnonaukowej książki „The AI Paradox, how to make sense of a complex future”, wydanej w lutym tego roku.

Prof. Virginia Dignum z Uniwersytetu w Umea w Szwecji została oskarżona o oszustwo naukowe. Jest specjalistką od etyki sztucznej inteligencji. Zarzuty dotyczą jej książki popularnonaukowej „The AI Paradox, how to make sense of a complex future”, wydanej w lutym tego roku.

Nieistniejące źródła

Autor skargi zgłosił sprawę do państwowej Komisji ds. Nadużyć w Badaniach Naukowych, czyli NPOF. Wskazał sześć przypisów w książce, które prowadzą do źródeł, które nie istnieją.

Według skargi te fragmenty mogła stworzyć sztuczna inteligencja. AI potrafi tworzyć informacje, które brzmią wiarygodnie, ale są nieprawdziwe. Takie błędy nazywa się halucynacjami AI.

Wyjaśnienia profesor

W rozmowie z dziennikiem „Dagens Nyheter” prof. Virginia Dignum powiedziała, że błędy pojawiły się podczas używania programu Latex. Program ten służył do porządkowania przypisów.

Listy biograficzne nie zostały wymyślone przez sztuczną inteligencję, ale nieprawidłowo przekonwertowane.

Badaczka przyznała jednak, że używała ChatGPT, Claude i Gemini, aby poprawić angielski w książce. Czasami pytała te narzędzia, czy zdanie jest wystarczająco jasne.

Profesor ocenia, że AI mogła poprawić po kilka zdań w każdym rozdziale. Jej zdaniem było to najwyżej 10 procent całego tekstu. Dignum zaznaczyła, że nie prowadziła dokładnych wyliczeń.

Sprawę bada komisja

Autor skargi uważa, że osoba zajmująca się etyką AI powinna szczególnie ostrożnie korzystać z takich narzędzi. Dignum jest profesorem i szefową AI Policy LAB na Uniwersytecie w Umea. Doradza też instytucjom publicznym i firmom oraz występuje na międzynarodowych konferencjach, także w Watykanie.

Sekretarz NPOF Jonas Jeppson nie chciał komentować trwającego postępowania. Powiedział jednak, że rośnie liczba nieprawidłowości związanych z przypisami w publikacjach naukowych.

Sprawa prof. Dignum może być ważna w dyskusji o granicach używania AI w nauce i odpowiedzialności naukowców.

Sekcja: Świat

Więcej artykułów