Как afka построена для безопасности
afka предоставляет компании AI-коллег, которые получают работу в канале чата, планируют её, действуют в подключённых инструментах и отчитываются. Ответ на требуемое доверие – архитектура, в которой опасное действие сложно совершить по конструкции. Три свойства несут основную нагрузку.
Модель никогда не видит учётные данные. Когда агент действует в подключённом инструменте, он никогда не хранит и не видит токен, который авторизует действие. Он вызывает инструмент по имени, а серверный шлюз внедряет учётные данные во время выполнения, на сервере, вне контекста модели. Учётные данные, которые модель никогда не видела, не могут быть утечены или перенаправлены ею: защита структурная, а не поведенческая.
Деньги и необратимый вред всегда требуют одобрения конкретного человека. У каждого агента есть параметр автономности, который выбирает клиент, а выше него находятся два независимых ограничения, которые агент не может снизить. Когда деньги уходят со счёта клиента или когда решение может причинить человеку необратимый вред, система всегда останавливается и запрашивает одобрение конкретного человека в первую очередь, независимо от установленного уровня.
Всё записывается туда, где это нельзя редактировать или удалять. Каждое действие – агента или человека – записывается в журнал аудита, который можно только дополнять, в рабочей области клиента. Журнал аудита нельзя изменять или удалять, даже afka.
2. Статус соответствия
Соответствует означает, что требование действует сейчас и afka его выполняет. В процессе означает, что работа началась и не завершена. Запланировано означает, что работа запланирована и еще не началась.
| Стандартный | Статус | Что это означает | Документация доступна сегодня |
|---|---|---|---|
| SOC 2 Type I | В процессе | Работа над экзаменом идёт. Отчёта ещё нет, и afka не заявляет о его наличии. | Эта страница; Приложение II GDPR; анкета по запросу. |
| SOC 2 Type II | В процессе | Отчет типа II охватывает средства контроля за период наблюдения. Работа ведется, и отчета еще нет. | None. |
| ISO/IEC 27001 | Запланировано | afka не имеет сертификата и процесс сертификации не проводится. | Сопоставление элементов управления с требованиями, названными покупателем. |
| ISO/IEC 42001 | Запланировано | afka не имеет сертификата для системы управления ИИ, и эта работа не началась. | Разделы 6 и 7; соответствующие записи Приложения II. |
| GDPR (Регламент (ЕС) 2016/679) | Соответствует | afka – это обработчик, контролер заказчика. DPA опубликована на стандартных условиях, полностью содержит обязательства статьи 28 и включает Стандартные договорные положения 2021 года. Правовая позиция, а не сертификация. | Соглашение об обработке данных и его приложения; Политика конфиденциальности, в которой опубликован список субподрядчиков. |
| UK GDPR и Закон о защите данных 2018 года | Соответствует | DPA явно охватывает Соединённое Королевство и включает Приложение о международной передаче данных (версия B1.0). | DPA, включая выборы в его Приложении. |
| CCPA и законы о конфиденциальности штатов США | Соответствует | afka действует как поставщик услуг и не продаёт и не передаёт личную информацию. Эквивалентные условия охватывают законодательство Делавэра, Виргинии, Колорадо, Коннектикута, Техаса и Орегона. | Соглашение об обработке данных (условия для поставщика услуг); Политика конфиденциальности. |
| Политика использования данных пользователей Google API Services, включая ограниченное использование | Соответствует | Области доступа при входе только для собственного клиента Google в afka, плюс область доступа приложения Google Chat. Область доступа для чтения почтового ящика не запрашивается. | Раздел 2.6 DPA, в котором указаны области применения и обязательства по ограниченному использованию. |
afka на сегодняшний день не имеет отчёта SOC 2 какого-либо типа и не имеет сертификата ISO/IEC 27001 или ISO/IEC 42001. Никакого подтверждения и никакого отчёта, доступного по соглашению о неразглашении, нет.
Что покупатель может получить сегодня: описания элементов управления на этой странице; Приложение II DPA, в котором указано, где мера предоставляется поставщиком базовой платформы; сопоставление этих элементов управления с фреймворком, названным покупателем; подписанный DPA; и заполненный опросник безопасности. Напишите на support@afka.ai.
3. Изоляция клиентов
Рабочие пространства изолированы в базе данных, а не в коде приложения. Каждая таблица клиента имеет безопасность на уровне строк, основанную на утверждении идентификатора бизнеса, которое пользовательский хук маркера доступа внедряет в маркер доступа при входе. Запрос, выполненный с маркером одного рабочего пространства, не может вернуть строки другого, поэтому ошибка приложения не становится уязвимостью между клиентами: граница не обеспечивается слоем, в котором находится ошибка.
На основных таблицах безопасность на уровне строк установлена на FORCE, что удаляет исключение, которое обычная политика предоставляет владельцу таблицы. Эти таблицы: tasks, runs, approvals, artefacts, audit log, credit ledger, connectors, workspace skills, agent watch data и proactive cards.
Изоляция клиентов проверяется автоматически перед выпуском любого изменения.
В качестве защиты в глубину серверные функции никогда не доверяют идентификатору рабочего пространства, поставляемому клиентом: они повторно разрешают тенанта из проверенного токена.
4. Учётные данные и секреты
Ссылки на подключения для подключённых учётных записей хранятся в хранилище секретов платформы управляемой базы данных: никогда в файлах окружения, никогда в пакете фронтенда, никогда в переменной сборки, которая попадает в браузер.
Для соединителя, управляемого платформой соединителей, сам грант OAuth хранится на этой платформе; afka хранит только ссылку на него. Отключение поэтому отзывает учётную запись в источнике через вызов API к платформе, и afka записывает строку аудита, фиксирующую это.
API-ключи хранятся в виде хеша SHA-256, показываются один раз при создании и никогда не могут быть восстановлены; сохраняются только префикс и последние четыре символа для отображения. Области доступа пересчитываются с учётом текущих возможностей создателя при каждом вызове аутентификации, поэтому ключ не может существовать дольше, чем разрешения его создателя, и область управления ключами не может быть предоставлена ключу.
Модель никогда не получает учётные данные в открытом виде; шлюз инструментов бэкенда внедряет их во время выполнения. Когда afka сдаёт готовую работу от имени участника, который подключил инструмент, токен этого участника считывается из хранилища при каждой сдаче, и коннектор публикует от имени этого участника.
5. Запуск кода, написанного моделью
Код, написанный языковой моделью, не является надёжным с момента его создания. Он выполняется в изолированной микроVM с одним гостевым ядром на задачу, которое уничтожается после выполнения и никогда не переиспользуется в рабочих пространствах. Каждый запуск получает краткосрочные токены с ограниченной областью действия вместо долгосрочных секретов.
Исходящий сетевой трафик из песочницы запрещён по умолчанию.
Каждый запуск ограничен лимитами CPU, памяти, времени выполнения и кредитов.
6. Автономность, утверждения и управление остановкой
Каждый агент имеет уровень автономии, который устанавливает и может изменять клиент. На уровне Suggest он предлагает работу и не действует до получения команды. На уровне Review он подготавливает действие и ждёт одобрения. На уровне Auto он может выполнять действия в классах риска, которые клиент ему разрешил, с учётом нижеприведённых ограничений.
Обычная работа не имеет классификации риска и никогда не требует одобрения: чтение, исследование, составление черновиков, обновление внутреннего состояния. Выше неё находятся четыре класса риска, которыми управляет регулятор: money, трата или перемещение денег; send, общение за пределами рабочего пространства; record, создание или изменение записей в подключённом инструменте; account, изменение параметров аккаунта или рабочего пространства.
Категории, которые всегда заблокированы на утверждение
Над циферблатом находится набор категорий, которые циферблат не может отпустить. Деньги, уходящие со счёта клиента, и решения, которые наносят человеку необратимый вред, всегда требуют предварительного одобрения конкретного человека. Заблокированные категории – возвраты, платежи, выплаты и неблагоприятные решения о человеке с именованным списком действий: обработка отмены, изменение подписки, действие по offboarding, изменение аккаунта, трата денег. Второе независимое правило охватывает ту же область: набор денежных операций (возвраты, кредиты, скидки, подарки лояльности, траты, оформление заказа, начисление и захват платежа, изменения подписки, переаллокация рекламы) и набор операций с людьми (отправленные или маршрутизированные предложения, рекомендации по найму, offboarding, всё отмеченное как неблагоприятное).
Механизм – это пороговое ограничение, а не запрет. Действие с блокировкой переводится на уровень проверки, поэтому назначенное лицо должно одобрить его перед выполнением, и одобряющий, действие и цель записываются в журнал аудита. Если никто не одобрит, действие не выполнится. Действие, которое система не может уверенно классифицировать, рассматривается как заблокированное.
Ослабление автономии зарезервировано для владельца рабочего пространства, поэтому изменение профиля риска можно отнести к конкретному человеку. Ожидающие одобрения истекают по времени жизни и удаляются. Лимиты расходов суммируются по действию, разбитому на этапы, поэтому декомпозиция не проходит под лимит. Любой работающий агент можно остановить из приложения.
7. Журнал аудита
Каждое действие, выполненное агентом или человеком, записывается в журнал аудита, доступный только для добавления записей в рабочей области клиента. Журнал невозможно изменить или удалить, включая afka: попытка изменить или удалить запись отклоняется.
Строка содержит актёра, действие, цель, временную метку, стоимость в кредитах, идентификатор запуска, ссылку на авторизующее одобрение, если оно требовалось, и информацию о том, был ли инициатор человеком или агентом.
Клиенты экспортируют журнал самостоятельно. Функция на сервере проверяет токен вызывающей стороны, определяет клиента на сервере и проверяет именованную возможность экспорта: владельцы и администраторы всегда её имеют, участник – только если ему предоставлена. Форматы – CSV и NDJSON, последний для системы управления информацией о безопасности и событиями. Экспорт записывает собственную строку в журнал.
Экспорт не подписан криптографически и не заверен, и клиент не должен представлять экспорт суду, регулятору или контрагенту как защищённый от подделок.
8. Встречи
Когда функция встреч включена, именованный помощник присоединяется к звонку как видимый участник и представляется при присоединении. afka не присоединяется к звонку скрытно и не предлагает режим, в котором это было бы возможно.
afka делает работу до конца на основе расшифровок; afka не записывает видео. Видеозапись не ведётся и видеотеки нет. Сохраняются расшифровка и результаты её обработки: резюме, действия и последующие задачи.
Стенограммы встреч и необработанные образцы распознавания речи удаляются в скользящем окне тридцати (30) дней автоматической ежедневной очисткой. В том же окне сохраненный текст запроса задачи, поступившей из встречи, и устное указание, содержащееся в контексте одобрения встречи, очищаются, при этом сами записи сохраняются. Образцы речи находятся в таблице, которую не могут читать ни анонимная, ни аутентифицированная роль базы данных.
Журнал аудита не содержит речевого или текстового содержимого.
Запланированное присоединение можно отменить до звонка; помощника можно удалить во время звонка, что прекращает транскрибирование; звонок с его транскриптом можно удалить впоследствии, но продукт отказывает в удалении до тех пор, пока помощник не будет удален. Согласие – ответственность клиента: в некоторых юрисдикциях требуется согласие каждого участника. Самопредставление участника не заменяет этот процесс, как указано в Условиях обслуживания.
9. Местоположение данных
afka хранит и регулярно обрабатывает данные клиентов в Соединённых Штатах. Вычисления приложения, то есть хостинг приложения, фоновый обработчик и голосовой вход, работают в Соединённых Штатах в регионе, объявленном как Орегон. Горячий кэш, ограничение частоты запросов и аналитика продукта также работают в регионах Соединённых Штатов.
Основная управляемая база данных находится в Соединённых Штатах в регионе East US (Северная Виргиния).
afka не предоставляет хранение данных на территории Европейского союза. Для передачи данных за пределы Европейской экономической зоны, Соединённого Королевства и Швейцарии в DPA используются Стандартные договорные положения и Приложение для Соединённого Королевства.
10. Безопасность приложения и транспорта
Весь трафик к afka передаётся по TLS. Шифрование неактивных данных обеспечивается базовыми поставщиками управляемых баз данных, хранилища и хостинга. Ответы, направленные в браузер, содержат эти заголовки:
- Strict-Transport-Security с max-age 604800 секунд (одна неделя).
- X-Frame-Options установлен на DENY.
- политика реферера.
- политика разрешений.
- политика открытия кросс-доменных ресурсов same-origin.
Политика безопасности контента применяется. Параллельно с ней работает более строгая политика в режиме только отчётов, отправляя нарушения на выделенную конечную точку, чтобы более строгие правила измерялись на реальном трафике перед применением; эти отчёты удаляются через тридцать (30) дней. Публичные формы защищены управляемой проверкой обнаружения ботов на граничном узле.
Уведомления в установленное голосовое приложение отправляются как Web Push через сервис push-уведомлений браузера или устройства пользователя. Каждое сообщение зашифровано для этой конкретной установки (RFC 8291), и afka идентифицирует себя перед сервисом push-уведомлений подписанным токеном (RFC 8292, VAPID), поэтому сервис push-уведомлений передаёт зашифрованный текст, который он не может прочитать. Запись о доставке содержит сервис push-уведомлений, HTTP-статус, размер и время, но никогда не содержит само сообщение.
11. Доступ персонала afka к данным клиентов
Доступ к production-платформам предоставляется по принципу наименьших привилегий, с аутентификацией у каждого провайдера и отзывом при необходимости. Нет рутинного доступа к содержимому клиентов: сотрудник afka не читает содержимое сообщений клиентов в обычном ходе работы сервиса. Доступ в службу поддержки ограничен тем, что требует поднятый вопрос. Каждое лицо, уполномоченное обрабатывать данные клиентов, связано письменным обязательством конфиденциальности, действующим после окончания их работы.
Административный ключ базы данных используется только на сервере и никогда не передаётся в браузер или в изолированную среду.
12. Единый вход
Единый вход SAML 2.0 поставляется встроенным в управляемую платформу аутентификации и работает с любым поставщиком удостоверений SAML 2.0. Он привязан к доменному имени компании, которое должно быть проверено перед использованием · один домен на рабочее пространство.
Принудительное применение (отключение входа по паролю для проверенного домена) поставляется в отключённом состоянии и не может быть включено до завершения хотя бы одного успешного единого входа. Таким образом, принудительное применение не может заблокировать администратора в рабочей области, в которой оно никогда не работало. Единый вход доступен на самом высоком плане самообслуживания и на корпоративных планах, но не на более низких планах.
Синхронизация каталога SCIM не реализована. Автоматическое управление пользователями на основе каталога отсутствует. Удаление пользователя выполняется в приложении или, если включено принудительное применение, у поставщика удостоверений.
13. Поставщики ИИ и обучение
afka не использует данные клиентов для обучения универсальных моделей искусственного интеллекта. afka не продаёт данные клиентов и не использует их для рекламы или кросс-контекстного поведенческого профилирования.
Обязательства afka в отношении поведения своих поставщиков ИИ отражают действующие договорные соглашения с каждым из них, и поставщик может в одностороннем порядке изменить свои условия. Если afka узнает, что такое изменение существенно снизит защиту данных клиента, она направит предварительное уведомление через процесс изменения субпроцессора в DPA, который предусматривает тридцатидневный (30 дней) период уведомления, право возражения и возможность прекратить затронутую часть услуги. DPA также обязывает afka требовать, чтобы её поставщики ИИ не использовали персональные данные клиентов для обучения моделей общего назначения.
afka использует небольшое количество поставщиков AI-моделей по контракту: Anthropic для основных языковых моделей, используемых при каждом запуске агента; Moonshot как живой резервный уровень для этих моделей; OpenAI только для преобразования речи в текст; Voyage AI для встраиваний, используемых для индексирования и поиска знаний в вашей компании; TypeSafe для закрытых классификаций, которые выбирают один ярлык из фиксированного набора для сообщения участника; и Tavily для этапа веб-исследования. Эти поставщики указаны в списке субподрядчиков, опубликованном в Политике конфиденциальности, которая является частью DPA, и любое изменение этого списка уведомляется заранее в соответствии с процессом, описанным выше.
14. Сообщение об уязвимости
Если вы обнаружили проблему безопасности в afka, пожалуйста, сообщите нам. Напишите на support@afka.ai с достаточными деталями для воспроизведения, и afka подтвердит получение отчёта и будет держать вас в курсе во время расследования и исправления. afka не будет преследовать исследователя, который сообщает добросовестно, не получает доступ к данным других людей и не уничтожает их, и даёт afka разумное время на исправление проблемы в первую очередь.
afka не проводит платную программу поиска уязвимостей. afka предлагает быстрое подтверждение получения, реальное исправление и публичное признание, если вы этого хотите.
15. Функции, которые нет в afka
- Независимый аудит третьей стороны. Аудитор не привлечён, проверка не проводилась. Любой отчёт, полученный afka, будет предоставлен в соответствии с разделом 9.1 DPA.
- Формальная программа информационной безопасности. Текущая позиция afka обеспечивается в коде и в непрерывной интеграции, а не документированным набором политик. afka не использует документированный набор политик, назначенного владельца безопасности или периодическую проверку доступа.
- Тестирование восстановления. Резервное копирование и восстановление базы данных на определённый момент времени – это функции управляемой платформы; afka не управляет собственной инфраструктурой резервного копирования и не публикует сроки хранения резервных копий. afka не проводит документированное тестирование восстановления.
- Независимое тестирование на уязвимости. afka не проводила независимое тестирование на уязвимости.
- Синхронизация каталога SCIM. Запланирована, как описано в разделе 12.
- Защита от подделок при подписании экспорта аудита. Отложено, как описано в разделе 7.
16. Вопросы
Напишите на support@afka.ai, и afka отправит без звонка и без процесса квалификации: DPA на стандартных условиях, готовый к подписанию, с Приложением II как детализированный реестр контролей; сопоставление контролей afka с любой названной вами системой; заполненный ваш опросник по безопасности; и прямой ответ на любой контроль на этой странице.
См. также Условия обслуживания, которые регулируют автономность, согласования и ответственность за действия агента, и Политику конфиденциальности. Если положения этой страницы и Соглашения об обработке данных расходятся, действует Соглашение об обработке данных.