OpenAI představuje GPT-Red: AI lovce zranitelností, který chrání další modely

OpenAI vyvíjí speciální AI model GPT-Red, který funguje jako etický hacker a pomáhá identifikovat bezpečnostní slabiny v ostatních modelech umělé inteligence. Zároveň se v americkém energetickém sektoru prosazují tepelná čerpadla jako stále populárnější alternativa k tradičnímu topení.

OpenAI záměrně školí svůj nový model GPT-Red se specializací na hledání bezpečnostních zranitelností. Tento model slouží jako interní testovací prostředek, který funguje v roli tzv. „red teamu" – tedy skupiny expertek a expertů, jejichž úkolem je vyhledávat slabiny a rizika. GPT-Red se cíleně školí k tomu, aby zkoušel napadnout a obejít bezpečnostní opatření ostatních modelů OpenAI, aby se ty mohly stát odolnějšími.

Jde o průmyslový trend, který postupně přijímá celý sektor vývoje umělé inteligence. Společnosti si uvědomují, že bezpečnostní testování prováděné umělou inteligencí samo o sobě se může ukázat efektivnější než tradiční přístupy. GPT-Red slouží jako neúnavný sparring partner, který neustále hledá nové způsoby, jak obejít bezpečnostní systémy. Tímto způsobem mohou vývojáři odhalit a opravit problémy dříve, než se dostanou do produkčního prostředí.

Paralelně se na americkém trhu energetiky dějí zajímavé změny. Tepelná čerpadla zažívají v USA boom a stávají se jednou z nejrychleji rostoucích technologií v domácím vytápění. Tato zařízení, která převádějí nízkoenergetickou energii na teplo, jsou energeticky efektivnější než tradiční plynové kotly a elektrické topení. Podpora vlády, poklesy cen a rostoucí ekologické vědomí spotřebitelů vedou k exponenciálnímu nárůstu jejich instalace.

Oba tyto trendy ilustrují celosvětovou snahu o vytváření bezpečnějších, chytřejších a udržitelnějších technologií. Zatímco v oblasti AI se zaměřujeme na prevenci bezpečnostních rizik, v energetice vidíme shift směrem k technologiím s menší uhlíkovou stopou a vyšší účinností.

Pro český kontex je zajímavé, že tepelná čerpadla se postupně začínají prosazovat i na našem trhu, podporovaná dotačními programy a EU cíli na dekarbonizaci. Podobně se v České republice zvyšuje zájem o bezpečnost aplikací umělé inteligence, která se stává nezbytným aspektem digitalizace našeho hospodářství.

Zdroj: MIT Technology Review

Rubrika: AI & Technologie