Detecció d'intel·ligència artificial
Els algorismes de detecció d'intel·ligència artificial (IA) pretenen mostrar si un text, una imatge de vídeo o un àudio han estat produïts per éssers humans o per intel·ligència artificial.
A partir del 2023, els principals exemples d'això són les aplicacions que pretenen detectar si el text ha estat creat per intel·ligència artificial i, de vegades, s'utilitza a col·legis i universitats per prevenir els treballs no originals dels estudiants. Aquest ús és controvertit, ja que aplicacions utilitzat no són fiables i poden ser utilitzades incorrectament per professors i professors.[1]
Detecció de text modifica
En el cas del text, això es fa habitualment per prevenir el suposat plagi, sovint detectant la repetició de paraules com a senyals reveladors que un text ha estat generat per IA (incloent les al·lucinacions d'IA). Sovint són utilitzats pels professors que marquen els seus alumnes, normalment de manera ad hoc . Després del llançament de ChatGPT i programes similar de generació de textos d'IA, molts centres educatius han emès polítiques contra l'ús de la IA per part dels estudiants.[2] El programes de detecció de text d'IA també l'utilitzen els que avaluen els sol·licitants de feina, així com els motors de cerca en línia.[3]
Els detectors actuals no són fiables i han marcat incorrectament el treball dels humans com a originari de la IA [4][5][6] mentre no detecten el treball generat per la IA en altres casos.[7] MIT Technology Review va dir que la tecnologia "va lluitar per recollir text generat per ChatGPT que havia estat lleugerament reordenat pels humans i ofuscat per una eina de parafraseig".[8] També s'ha demostrat que el programes de detecció de text d'IA discrimina els parlants no nadius d'anglès.[3]
El maig de 2023, un professor de la Texas A&M University–Commerce va utilitzar ChatGPT per detectar si el contingut dels seus estudiants estava escrit per ell, cosa que ChatGPT va dir que era el cas. Com a tal, va amenaçar amb suspendre la classe, tot i que ChatGPT no va poder detectar l'escriptura generada per IA.[9] No es va impedir cap estudiant graduar-se a causa del problema, i tots els estudiants menys un (que van admetre utilitzar el programes) van ser exonerats d'haver utilitzat ChatGPT en el seu contingut.[10] L'abril de 2023, la Universitat de Cambridge i altres membres del grup d'universitats Russell van optar per l'eina de detecció de textos d'IA de Turnitin, argumentant que no era fiable.[11]
Detecció d'imatge, vídeo i àudio modifica
Existeixen una sèrie de suposats programes de detecció d'imatges d'IA per a intentar detectar imatges generades artificialment (per exemple, aquelles originades a Midjourney). No són fiables.[12] Altres afirmen identificar deepfakes de vídeo i àudio, però aquesta tecnologia tampoc és fiable.[13]
Referències modifica
- ↑ «AI Content Detector Checks GPT-4, ChatGPT, Bard, & More». [Consulta: 23 agost 2023].
- ↑ «AI-assisted plagiarism? ChatGPT bot says it has an answer for that». The Guardian, 31 December 2022.
- ↑ 3,0 3,1 «Programs to detect AI discriminate against non-native English speakers, shows study». The Guardian, 10-07-2023.
- ↑ «Detecting AI may be impossible. That's a big problem for teachers.». , 02-06-2023.
- ↑ «There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate». , 09-01-2023.
- ↑ «We tested a new ChatGPT-detector for teachers. It flagged an innocent student.». , 01-04-2023.
- ↑ «ChatGPT maker OpenAI releases 'not fully reliable' tool to detect AI generated content». , 01-02-2023.
- ↑ «AI-text detection tools are really easy to fool». , 07-07-2023.
- ↑ «A professor accused his class of using ChatGPT, putting diplomas in jeopardy». , 18-05-2023.
- ↑ «College instructor put on blast for accusing students of using ChatGPT». , 18-05-2023.
- ↑ «Universities express doubt over tool to detect AI-powered plagiarism». , 03-04-2023.
- ↑ ; Hsu, Tiffany «How Easy Is It to Fool A.I.-Detection Tools?». The New York Times, 28-06-2023.
- ↑ ; Myers, Steven Lee «Another Side of the A.I. Boom: Detecting What A.I. Makes». The New York Times, 18-05-2023.