В 2025 году регулирование искусственного интеллекта будет определяться тремя ключевыми аспектами: данными, рабочими местами и безопасностью. Эти взаимосвязанные сферы станут центральными в формировании политики, поскольку правительства стремятся решить сложные вызовы, которые ИИ создает для общества. Особое внимание будет уделено данным, поскольку они будут иметь значительное влияние на безопасность цепочки поставок программного обеспечения.
Эволюция спецификаций ML-BOM (Machine Learning Bill of Materials) станет важным инструментом в обеспечении прозрачности и безопасности систем ИИ и машинного обучения. Поскольку регуляторные органы будут усиливать контроль за такими системами, ключевыми вопросами станут право собственности на данные, их источники и безопасность. Организации должны будут раскрывать, какие данные используются для обучения их моделей, предоставлять подробную информацию о происхождении и соответствии этих источников.
Вероятно, нормативные требования будут предусматривать доказательство законности владения данными и их ответственного получения, чтобы минимизировать риски, связанные с использованием несанкционированных или низкокачественных источников. Это повлечет расширение системы ML-BOM, которая будет включать не только перечень компонентов, но и полную документацию об источниках данных, их качестве и соответствии стандартам.
Таким образом, новые правила, ориентированные на данные, станут основополагающим элементом безопасности цепочки поставок программного обеспечения. Организации будут вынуждены применять строгое управление и проверку данных, как и для любого другого критически важного компонента программного обеспечения, чтобы обеспечить соответствие новым требованиям и избежать потенциальных рисков.