Обозначим количество научных книг как \( N \), количество книг по истории как \( H \), а количество диктантов как \( D \).
Согласно условию, у нас есть несколько уравнений:
Общее количество книг: \[ N + H + D = 77 \]
Количество диктантов в 11 раз больше количества научных книг: \[ D = 11N \]
Научных книг больше, чем книг по истории: \[ N > H \]
Теперь мы можем подставить второе уравнение в первое:
\[ N + H + 11N = 77 \] \[ 12N + H = 77 \] \[ H = 77 - 12N \]
Теперь подставим это значение в третье неравенство:
\[ N > 77 - 12N \] \[ N + 12N > 77 \] \[ 13N > 77 \] \[ N > \frac{77}{13} \approx 5.92 \]
Так как \( N \) должно быть целым, то \( N \geq 6 \).
Теперь подставим \( N = 6 \) и проверим, получится ли соответствующее целое значение для \( H \) и \( D \):
\[ H = 77 - 12 \cdot 6 = 77 - 72 = 5 \] \[ D = 11 \cdot 6 = 66 \]
Теперь проверим, что \( N > H \): \[ 6 > 5 \quad \text{(условие выполнено)} \]
Таким образом, при \( N = 6 \), \( H = 5 \) и \( D = 66 \).
При необходимости, мы можем попробовать увеличить \( N \) и проверить другие возможные значения. Попробуем \( N = 7 \):
\[ H = 77 - 12 \cdot 7 = 77 - 84 = -7 \quad \text{(нецелое значение)} \]
Таким образом, единственный подходящий вариант – это \( N = 6 \), \( H = 5 \) и \( D = 66 \).
Следовательно, количество диктантов: \[ \boxed{66} \]