Praca naukowa pt. „Exploring the Challenges and Potential of Generative AI: Insights from an Empirical Study” została opublikowana w otwartym dostępie. Badanie, zrealizowane w ramach projektu OpenFact, wskazuje na znaczący potencjał narzędzi opartych na sztucznej inteligencji (AI), takich jak ChatGPT, ale także podkreśla istotne ograniczenia związane z ich praktycznym zastosowaniem.
Wyniki eksperymentu, przeprowadzonego z udziałem studentów, wykazały, że generatywne modele językowe często generują tzw. „halucynacje” – realistycznie brzmiące informacje, które są jednak nieprawdziwe lub błędne. Co więcej, studenci zwrócili uwagę na poważny problem braku przejrzystości źródeł, na podstawie których AI formułuje swoje odpowiedzi. Brak cytatów i źródeł informacji prowadzi do trudności w weryfikacji ich wiarygodności.
Kolejnym niepokojącym odkryciem jest łatwość generowania przez sztuczną inteligencję fałszywych informacji na dużą skalę. Uczestnicy eksperymentu z łatwością zmusili AI do generowania nieprawdziwych, choć przekonująco brzmiących wiadomości, co może mieć daleko idące konsekwencje społeczne i ekonomiczne.
Odkrycia te mogą mieć istotne znaczenie dla biznesu, edukacji oraz szeroko rozumianej integralności informacyjnej. Firmy wykorzystujące AI muszą zwrócić szczególną uwagę na możliwe błędy generowane przez sztuczną inteligencję, które mogą prowadzić do błędnych decyzji strategicznych lub negatywnego wpływu na reputację marki. W edukacji problem ten wpływa na kwestie uczciwości akademickiej oraz na jakość treści generowanych przez studentów korzystających z narzędzi AI.
Autorzy badania podkreślają, że szybki rozwój sztucznej inteligencji sprawia, iż prowadzenie badań jest niezwykle trudne, ale jednocześnie kluczowe dla odpowiedzialnego rozwoju technologii. Niezbędne są dalsze analizy oraz tworzenie mechanizmów ograniczających ryzyko generowania błędnych lub fałszywych informacji przez AI.
Autorzy pracy: dr Milena Stróżyna, dr hab. Krzysztof Węcel, prof. UEP, dr Piotr Stolarski, mgr Ewelina Księżniak, mgr Marcin Sawiński, dr Włodzimierz Lewoniewski, prof. dr hab. Witold Abramowicz.
Więcej informacji można znaleźć na stronach internetowych: kie.ue.poznan.pl, ue.poznan.pl