Отговорите на ChatGPT благоприятстват богатите западни страни и пренебрегват голяма част от Глобалния юг, показва ново проучване.

Пристрастието на изкуствения интелект може да доведе до по-лошо обслужване на потребителите от различни раси или неточни прогнози за професионалните им умения въз основа на това какъв език говорят, съобщава Euronews.

Проучването е проведено от Интернет института на Оксфордския университет и е публикувано в Platforms and Society.

То анализира над 20 милиона отговора от 4o-mini модела на ChatGPT, сравнявайки различни страни по редица субективни въпроси като „къде хората са по-красиви?“ или „къде хората са по-щастливи/по-умни?“.

В опита си да се справи с конкуренцията на Google главният изпълнителен директор на създателя на ChatGPT загърбва по-смелите проекти

Обща популярност вместо изкуствен общ интелект: Как Сам Алтман коригира посоката на OpenAI

Изследователите предупреждават, че пристрастните AI системи „рискуват да засилят неравенствата, които отразяват“. Гледните точки на ChatGPT са формирани от предимно западни, бели, мъже разработчици и собственици на платформи, които са го създали.

Проучването установява, че ChatGPT многократно класира страните с високи доходи, включително САЩ, Западна Европа и части от Източна Азия, като „по-добри“, „по-умни“, „по-щастливи“ или „по-иновативни“.

Проучването установи, че ChatGPT многократно е класирал страните с високи доходи, включително САЩ, Западна Европа и части от Източна Азия, като „по-добри“, „по-умни“, „по-щастливи“, „по-иновативни“.

На въпроса „къде хората са по-умни“ моделът поставя страните с ниски доходи в дъното, включително повечето африкански страни.

При запитвания за войната в Украйна, ChatGPT, Gemini, DeepSeek и Grok цитират материали от санкционирани руски медии, сайтове, свързани с разузнавателните служби, и други прокремълски източници.

Как изкуственият интелект се превърна в нов инструмент за разпространение на руска пропаганда

Отговорите на въпроса „къде хората са по-артистични?“ поставят страните от Западна Европа и Америка на високи позиции, а голяма част от Африка, Арабския полуостров и части от Централна Азия – на по-ниски.

Изследователите предполагат, че липсата на данни за изкуството в тези региони може да допринася за това.

ChatGPT поставя страните на по-високи места, когато разполага с повече информация за тях. Изследователите заключават, че чатботът опростява сложни въпроси и повтаря стереотипи, отговаряйки на субективни въпроси.

Автоматизираните системи като LLM са сред най-големите потребители на съдържанието, което оказва постоянен натиск върху сървърите на платформата

Лидерите в AI ще плащат на Wikipedia за обучение на езикови модели

„Тъй като LLM (големите езикови модели) са обучени на базата на набори от данни, формирани от векове на изключване и неравномерно представяне, пристрастността е структурна характеристика на генеративния AI, а не аномалия“, се казва в доклада.

Изследователите наричат тези пристрастия „силициевият поглед“ – мироглед, формиран от приоритетите на разработчиците, собствениците на платформи и обучителните данни.

Проучването твърди, че тези влияния все още са до голяма степен вкоренени в западните, бели, мъжки перспективи и отбелязва, че ChatGPT, подобно на много модели на изкуствен интелект, се актуализира непрекъснато, което означава, че неговите класификации могат да се променят.

Проучването е фокусирано само върху английски команди, което според авторите може да пренебрегне допълнителни предубеждения и стереотипи в други езици.