AI-uppstyrning – om artificiell intelligens: programmering av AI‑system så att de bara gör vad utvecklaren har tänkt sig, utan skadliga eller olämpliga lösningar. – AI‑system är så komplexa att det är svårt att programmera dem för att lösa en uppgift utan risk för att de visserligen löser uppgiften, men på ett icke önskvärt och kanske farligt sätt. Begränsningar som kan vara självklara för människor har inte specificerats. Detta gäller inte minst i maskininlärning. Ibland löser AI‑program uppgifter på sätt som kan beskrivas som fusk. Bristande uppstyrning kan vara ett allvarligt problem när det gäller självkörande bilar och andra maskiner. – Läs också om specification gaming (specifikationstricksande).
[ai] [20 november 2022]