Ответ: m2 = 3 кг.
Пояснение пошагово (для системы из двух грузов на нити через идеальный неподвижный шкив, тягой и пружин/трения пренебрегаем):
В таком устройстве система находится в равновесии (ускорение a = 0) только тогда, когда массы равны: m1 = m2. Если одна масса больше, система будет двигаться.
Формула ускорения для идеальной системы Атвуда: a = (m2 − m1) g / (m1 + m2). Условие равновесия соответствует a = 0, т.е. m2 − m1 = 0 → m2 = m1.
Дано: m1 = 3 кг. Значит m2 должно быть равно 3 кг.
Дополнительная заметка: сила тяжести на каждую массу в равновесии равна силe натяжения T, например T = m1 g = m2 g ≈ 3 × 9,8 ≈ 29,4 Н (если нужно перевести в Н).