Стъпки, необходими за предотвратяване на нов скандал с Horizon

Авторът е основен изпълнителен шеф на Кралската академия по инженерство

Разследването на абсурда с Post Office Horizon навлезе в решаваща фаза, като някогашни висши ръководители са имали дали доказателства за това, което са знаели за опциите на тяхната компютърна система. Голяма част от случая разбираемо е съсредоточена върху ужасяващите човешки последствия от този неуспех - само че по какъв начин можем да подсигуряваме, че няма да се случи още веднъж?

Проблемите при проектирането и внедряването на комплицирани ИТ системи към този момент бяха добре известни в инженерни и компютърни специалности по време на създаването на Horizon. Преди двадесет години Кралската инженерна академия и BCS, Chartered Institute for IT, издадоха строго предизвестие за тези, които вкарват в употреба такива системи. Данните по това време сочат, че единствено 16 % от ИТ плановете на Обединеното кралство се смятат за сполучливи и че милиарди лири се губят за нови системи всяка година.

Нашият отчет разпознава сериозен дефицит на систематични архитекти с умения да преведат бизнес проект в подготвен механически проект. Оттогава темпото на смяната се форсира с помощта на увеличената изчислителна мощ и други разработки, в това число AI. В резултат на това сложността на веригите за доставка на програмен продукт се е нараснала и линиите на отчетност постоянно са неразбираеми.

Рисковете, подбудени от това, се усложняват от по-честите хакерски атаки, които употребяват софтуерни недостатъци. Има също по този начин необятно публикувано потребление на софтуерни съставни елементи, които не са създадени по професионални стандарти и не идват нито с гаранции, нито с приемане на отговорност от основателите.

Неуспехът да се оправят с тези проблеми може да бъде спънка за напредъка, към който Обединеното кралство се стреми да подтиква приемането на изкуствения разсъдък. Оценката и ръководството на риска са значими, в случай че желаеме да подсигуряваме, че системите с задействан AI са постоянни и устойчиви и че повреди се обработват по подобаващ метод. 

Инженерната нравственос е съществена част от този професионализъм, както демонстрира изследване от 2023 година Една трета от инженерите и техниците оповестяват, че работата, която са подхванали, ги кара да се усещат етично компрометирани.

Други области също се нуждаят от незабавно внимание. Остава законовата хипотеза, че компютърът постоянно е прав. Пощенската работа може да разчита на позицията на общото право, че съдилищата имат право да одобряват, че ИТ системата работи вярно. Служителите на пощенската работа трябваше да потвърдят, че резултатите и регистрационните файлове от компютърната система са неправилни или неточни. Но по какъв начин може да се чака не-ИТ експерти да потвърдят това, когато даже някои опитни ИТ експерти биха намерили за предизвикателство да го създадат?

Организациите, които разчитат на доказателства, генерирани от компютърни системи, с цел да поддържат наказателното гонене, би трябвало да бъдат задължени да потвърдят, че главната компютърна система е надеждна; надяваме се, че това ще бъде ясна рекомендация от настоящото следствие, защото това е от решаващо значение за попречване на повтаряне на сходни несправедливости.

Инженерната специалност има жизненоважна роля за обезпечаване на нужния прогрес. Това включва поддръжка за създаването на нови механически стандарти, които могат да бъдат вградени в регулациите и договорите за публични поръчки, с цел да се предпазят от щета на системата. 

Образованието, културата, която поддържа етичното държание и непрекъснатото рационализиране, както и по-голямото многообразие в границите на специалността, могат да допринесат за възстановяване на резултатите. Служителите би трябвало също по този начин да имат достъп до механизми за докладване за неуспехи и закъснения, в това число постоянни процедури за подаване на сигнали и поддръжка, когато е належащо. 

Съвременният живот зависи от компютърните системи, които стават все по-сложни и взаимосвързани. Въпреки че съществуват доста образци за положителни практики при въвеждане в употреба на ИТ системи, жизненоважно е компетентността и етичната процедура да станат норма за тези, които доставят и доставят комплицирани софтуерни системи, в случай че желаеме да избегнем нов Horizon.