"как в теории вероятностей найти оптимальный шаг для построения гистограммы для большого массива данных"

Оптимальный шаг для построения гистограммы в теории вероятностей можно найти с помощью формулы Скотта-Стьюарта. Она определяет оптимальную ширину интервала:

ширина интервала = 3.5 * стандартное отклонение * (n^(-1/3)),

где n - количество наблюдений.