Evaluace místo tradicí PRD: Jak Expedia přemýšlí o vývoji AI produktů

Šéf umělé inteligence z Expedia Group Xavi Amatriain ukázal na konferenci VB Transform 2026, jak se vývoj AI produktů zásadně liší od tradičního přístupu. Evaluace se staly novým produktovým dokumentem, který určuje, co by měl AI systém dělat.

Paradigma změní způsob, jakým technologické firmy navrhují AI produkty. Na prestižní konferenci VB Transform 2026 v Menlo Parku Xavi Amatriain, první chief AI and data officer skupiny Expedia Group, prezentoval radikálně odlišný přístup k produktovému designu v éře umělé inteligence.

Tradiční produktový dokument (PRD - Product Requirements Document) byl dlouho základním kamenem vývoje software. Amatriain však tvrdí, že v kontextu AI projektů je třeba tento přístup zcela přehodnotit. Podle jeho názoru se evaluace stávají novým PRD - jsou to právě oni, kdo definují, co by měl AI systém umět dělat. „Výběr a design evaluací je v podstatě procesem, kterým kódujete to, co chcete, aby váš produkt dělal," vysvětlil zkušený AI expert.

Klíčovým aspektem tohoto přístupu je bezpečnost a robustnost od samého začátku. Evaluace zahrnují nejenom standardní testování funkcionality, ale také tzv. red teaming evaluace, které se zaměřují na hledání zranitelností a potenciálních zneužití. Bezpečnostní požadavky se tak nezavádějí až dodatečně, ale jsou embed do samotného procesu návrhu produktu, ještě předtím, než se začne s konkrétním kódováním.

Tento přístup má hluboké důsledky pro organizace, které budují AI systémy. Místo tradičního postupu „napsat požadavky, pak kódovat" se pracuje podle modelu „definovat evaluace, pak iterativně zlepšovat systém podle jejich výsledků". Pro softwarové týmy znamená tento paradigmatický posun také nutnost naučit se zcela nový způsob myšlení o testování a validaci.

Amatriainův pohled odráží rostoucí pochopení toho, že AI produkty nelze vyvíjet stejným způsobem jako tradičníí software. Zatímco klasický kód lze jednoduše otestovat na konkrétních vstupech, AI modely vykazují emmergenční chování, které je obtížné předvídat. Právě proto se evaluace stávají kritickým nástrojem pro řízení kvality a bezpečnosti těchto systémů.

Zdroj: VentureBeat

Rubrika: AI & Technologie