I bug nei software possono causare anomalie di tutti i tipi, compresi arresti anomali del sistema, rallentamenti delle prestazioni, vulnerabilità che consentono accessi non autorizzati, perdite di dati, problemi finanziarie e persino decessi.
Nel 1985 un errore nel software di un macchinario per radioterapia denominato Therac-25 portò a disabilità e alla morte di 3 persone, con almeno sei di queste che ricevettero quantità 100 volte superiori alla norma di radiazioni.
I bug di Therac-25
Il sito Tom’s hardware ricorda che tra il 1985 e il 1987 la Therac-25 fu installata in 11 esemplari in alcuni ospedali degli Stati Uniti e del Canada, e si rivelò affetta da una serie di bug nel software di gestione che provocarono sei incidenti durante i quali ai pazienti venne somministrata una dose di radiazioni 100 volte superiore a quella necessaria (in alcuni casi l’apparecchio si attivò anche senza aver ricevuto l’apposito comando), causando un avvelenamento da radiazioni e, direttamente, il decesso di tre dei sei pazienti con i quali si verificò l’errore.
Questi incidenti dimostrarono i pericoli che si possono causare nel fare affidamento solo al software per comandare apparecchiature medicali.
Uno studio pubblicato da un master student in computer science della California Public University evidenzia in dettaglio quanto accaduto ma sostanzialmente era possibile bypassare il controllo dei dati e procedere al trattamento senza tenere conto della reale situazione della macchina.
In seguito ai vari incidenti, una commissione di inchiesta concluse che le cause principali erano imputate al programma di gestione della macchina scritto (in assembler) e sviluppato male, evidenziando anche concause quali mancate verifiche da organismi indipendenti, l’assenza di test operativi e altri problemi di carattere ingegneristico.
Quando accaduto con i bug del Therac-25 portò alla revisione di dei protocolli di sicurezza per i macchinari medici evidenziando l’importanza critica del software nella gestione di tali dispositivi, incidenti che portano all’implementazione di protocolli più severi per garantire che tali errori non si ripetano.
