Bias del rilevatore AI e copertura educativa superiore al Markup

Ciao mondo

Una delle nostre ultime reporter condivide i suoi piani per indagare sulla tecnologia nell'istruzione superiore Di Tara García Mathewson

Hello World è una newsletter settimanale, consegnata ogni sabato mattina, che approfondisce i nostri report originali e le domande che poniamo ai grandi pensatori del settore. Sfoglia l'archivio qui.

Ciao, lettori. Sono entusiasta di presentarmi a tutti voi! Sono Tara García Mathewson, una delle nuove reporter di The Markup, e mi occuperò dell'istruzione superiore qui. La mia prima storia è stata pubblicata la scorsa settimana e vorrei raccontarvi di più a riguardo, oltre a quello che ho intenzione di trattare in questo ritmo.

Apprendimento automatico

Uno studio di Stanford ha scoperto che i rilevatori di intelligenza artificiale sono prevenuti nei confronti dei non madrelingua inglesi

Innanzitutto, nel caso te lo fossi perso, la mia storia riguarda i pregiudizi incorporati nei rilevatori di intelligenza artificiale, diventati popolari nei campus universitari dopo che ChatGPT ha creato un nuovo panico riguardo agli imbrogli. I rilevatori mirano a identificare la scrittura generata dall’intelligenza artificiale. Anche se potresti considerarlo un obiettivo lodevole, i rilevatori di intelligenza artificiale funzionano cercando frasi prevedibili, vocabolario semplice e grammatica meno complessa, tratti distintivi della scrittura generata dall’intelligenza artificiale che, per pura coincidenza, corrisponde allo stile di scrittura di molti madrelingua inglesi.

I rilevatori, spiega il mio articolo, rendono molti studenti internazionali particolarmente vulnerabili alle false accuse di frode. Ho parlato con diversi studenti che erano preoccupati per le possibili conseguenze, che andavano da conversazioni scomode con i loro professori e sentimenti feriti fino a danni alla reputazione a lungo termine e potenziale espulsione. Ho anche parlato con insegnanti frustrati dai problemi di precisione dei rilevatori e dal panico legato all'uso di ChatGPT nei campus universitari.

La rotturaApprendimento automatico

Quattro domande cruciali che genitori ed educatori dovrebbero porsi

Se ti sei perso la storia la scorsa settimana, dai un'occhiata e condividila con tutti gli studenti universitari o docenti della tua vita. Mi piacerebbe ancora sentire gli istruttori che hanno notato le tendenze negli errori dei rilevatori di intelligenza artificiale e gli studenti che sono stati essi stessi falsamente accusati di imbrogliare grazie agli strumenti difettosi. Oltre agli studenti internazionali, i campus ospitano molti immigrati recenti la cui prima lingua non è l’inglese, e anche loro rimangono particolarmente vulnerabili ai pregiudizi dei rilevatori di intelligenza artificiale. Posso essere raggiunto a [email protected] se desideri condividere la tua esperienza o passare la mia email a qualcuno che conosci!

Nel frattempo, lascia che ti dica come sto pensando a questo beat. Ho intenzione di concentrarmi sull'uso e l'abuso della tecnologia nell'istruzione superiore. Voglio scoprire i danni che possono essere attribuiti all'uso della tecnologia educativa e alla proliferazione dell'apprendimento online. Sono particolarmente interessato a raccontare i danni subiti dagli studenti con disabilità, da quelli con redditi più bassi, da coloro che vivono in aree rurali e da coloro che sono immigrati, studenti universitari di prima generazione, studenti di ritorno, operatori sanitari o qualsiasi combinazione di quanto sopra .

Mentre le istituzioni d’élite appariranno nelle mie storie, osserverò più da vicino ciò che sta accadendo nei luoghi in cui si iscrive la stragrande maggioranza degli studenti dell’istruzione superiore degli Stati Uniti, vale a dire istituti meno selettivi come i community college e gli istituti pubblici quadriennali.

Voglio anche indagare sulle aziende che traggono profitto dall’istruzione a scopo di lucro e dal mercato multimiliardario della tecnologia educativa. Tornerò nelle vostre caselle di posta quando troverò esempi di profitti a scapito degli studenti.

Sali di livello

Utilizza questi strumenti e tecniche per ottenere "ricevute dalle strade" con un codice minimo o nullo

Nelle ultime settimane ho avuto una serie di conversazioni con ricercatori, avvocati, professionisti IT, professori e studenti, per farmi un'idea della situazione nel mondo dell'istruzione superiore. Arrivo a The Markup con più di un decennio di esperienza nel reporting educativo, anche se principalmente nelle scuole K-12. Non vedo l'ora di acquisire una comprensione più profonda di come funzionano (o meno) i college e le università e di espandere la copertura di The Markup sull'istruzione superiore. In effetti, ecco un altro ringraziamento nel caso te lo fossi perso: hai visto la storia di Todd Feathers del 2021 su come le università utilizzano la razza come fattore di rischio per il successo degli studenti? Il software profilato da Todd, Navigate di EAB, è apparentemente ancora utilizzato da più di 850 college e università per consigliare più di 10 milioni di studenti. La storia vale un tuffo negli archivi per leggerla!