Guardrails

Guardrails — это набор ограничений и правил, которые встраивают в ИИ-системы, чтобы предотвратить вредные или нежелательные действия. Они помогают контролировать поведение алгоритмов, обеспечивая безопасность, этичность и соответствие целям пользователей. Такие механизмы могут включать фильтры контента, ограничения на ответы или автоматические проверки.