Краткий ответ: правильно — ручка. Мягкий знак не нужен.
Почему так
В слове есть шипящий ч, а он в русском языке всегда мягкий — [ч']. Значит, обозначать мягкость дополнительным «ь» не требуется.
Общее правило: после шипящих ь пишется только в определённых случаях, а именно:
- у существительных женского рода 3-го склонения: ночь, дочь, вещь, помощь;
- у глаголов 2-го лица ед. ч.: читаешь, пишешь;
- в некоторых наречиях: сплошь, навзничь.
«Ручка» — существительное женского рода, но 1-го склонения (ручка — ручки, как «книга — книги»), поэтому в этот список не попадает: ь не пишем.
Разбор по составу (помогает не путать со словами типа «ночь»):
- корень руч- (рука → ручка, чередование к//ч),
- суффикс -к-,
- окончание -а.
Проверка: ручка — 5 букв, 5 звуков: [р у ч' к а]. Мягкость [ч'] даётся самой буквой «ч», а «ь» здесь просто не на что «работать».
Как применять к похожим словам: дочка, точка, почка, тучка, свечка — везде после «ч» нет «ь», потому что это не существительные 3-го склонения. А вот дочь, ночь, речь — 3-е склонение, там «ь» обязателен.
