Жесткая сигмовидная - Hard sigmoid - Wikipedia

В искусственный интеллект, особенно компьютерное зрение и искусственные нейронные сети, а твердая сигмовидная не-гладкий функция, используемая вместо сигмовидная функция. Они сохраняют основную форму сигмовидной кишки, увеличиваясь от 0 до 1, но с использованием более простых функций, особенно кусочно-линейные функции или же кусочно-постоянные функции. Они предпочтительны, когда скорость вычислений важнее точности.

Примеры

Наиболее яркими примерами являются функция знака или же Ступенчатая функция Хевисайда, которые меняются от -1 до 1 или от 0 до 1 (что для использования зависит от нормализации) в 0.[1]

Другие примеры включают Theano библиотека, которая предоставляет два приближения: ultra_fast_sigmoid, которая представляет собой составную кусочно-линейную аппроксимацию и жесткий_сигмоид, который представляет собой трехчастную кусочно-линейную аппроксимацию (выход 0, линия с наклоном 0,2, выход 1).[2][3]

Рекомендации

  1. ^ Кривые и поверхности в компьютерном зрении и графике, том 1610, SPIE, 1992, п. 301
  2. ^ nnet - Операции для нейронных сетей
  3. ^ Theano / sigm.py по адресу 38a6331ae23250338290e886a72daadb33441bc4 · Theano / Theano · GitHub