Обоснование
1. Введем инерциальную систему отсчёта (ИСО) связанную с землей.
2. Все тела движутся поступательно, поэтому их можно считать материальными точками.
3. Так как грузы являются материальными точками, то описывать их движение в ИСО будем, используя законы Ньютона.
4. Учитывая, что нить нерастяжима, блок идеальный, делаем вывод, что все тела движутся с одинаковым ускорением.
5. Так как нить невесома, блок идеальный, делаем вывод, что на оба тела действует одинаковая по модулю сила натяжения нити.
Решение

Так как масса одного из грузов будет больше, то система будет двигаться с ускорением в сторону большего груза, обозначим это ускорение за a. Кроме того трения нет, а значит сила натяжения нити в обе стороны грузов будет одинакова. Запишем второй закон Ньютона для груза массой M и груза массой на ось Ох
Вычтем из первого уравнения второе и получим
Выразим ускорение (2)
Так как на блок действуют силы натяжения нити, то именно они и будут создавать силу, действующую на блок, а именно эта сила равна
Чтобы найти эту силу подставим (2) в (1)
Домножим на 2 и раскроем скобки