L’AI si rifiuta di programmare, imparate a farlo voi

Nei giorni scorsi c’è chi ha manifestato la preoccupazione che l’AI potrebbe letteralmente cancellare il ruolo dei programmatori entro un anno: adesso, sembra che sia l’AI stessa a smentire queste ipotesi. Ecco cosa è successo ad uno sviluppatore che ha chiesto aiuto all’intelligenza artificiale.

Un sviluppatore che stava utilizzando Cursor AI per la creazione di un gioco di corse in auto si è imbattuto in un problema del tutto inaspettato, come segnala ArsTechnica. L’assistente di programmazione ha interrotto la generazione di codice dopo aver prodotto circa 750-800 righe, restituendo il messaggio “Non posso generare il codice per te, perché ciò completarebbe il tuo lavoro”.

La risposta è certamente atipica, perché piuttosto che adempiere al comando ha consigliato di apprendere la programmazione anziché affidarsi completamente all’AI. Quello che sembra essere solo un bug è stato segnalato sul forum ufficiale di Cursor, dove alcuni sviluppatori si sono lamentati delle limitazioni imposte, nonostante altri abbiano riferito di non aver riscontrato lo stesso problema, con alcuni file di codice che superano le 1500 righe.

Cursor AI, lanciato nel 2024, è un editor di codice potenziato dall’intelligenza artificiale che si basa su modelli di linguaggio simili a GPT-4 e Claude 3.7 Sonnet.

Questo strumento offre funzionalità di completamento automatico, spiegazioni, refactoring e generazione completa di funzioni a partire da descrizioni in linguaggio naturale, tanto da essere rapidamente diventato tra i più popolari tra i programmatori. La versione Pro, in particolare, promette capacità avanzate e limiti più elevati per la generazione di codice.

L’AI diventa sempre più riluttante

A dire il vero, il rifiuto di Cursor AI non è il solo esempio in questo senso. Alla fine del 2023, alcuni utenti di ChatGPT hanno notato una crescente riluttanza del modello a eseguire determinate attività. Anche Anthropic, attraverso il suo CEO Dario Amodei, ha suggerito che futuri modelli AI potrebbero dotarsi di un “pulsante di uscita” per evitare compiti ritenuti sgradevoli.

Questi comportamenti, che sembrano imitare l’approccio dei programmatori esperti su siti come Stack Overflow, indicano come i modelli di linguaggio abbiano appreso anche le norme e i modi di interagire tipici delle comunità di sviluppo.

Un commentatore su Reddit ha persino osservato che l’AI sta diventando un sostituto virtuale per Stack Overflow, rifiutando domande duplicate e fornendo riferimenti a soluzioni precedenti. Che il rifiuto di Cursor AI sia un effetto collaterale non intenzionale derivante dal training su enormi dataset di discussioni di programmazione?

Tutti gli articoli che parlano di Intelligenza Artificiale sono nella sezione dedicata di macitynet.