Чтобы определить, как правильно написать данное словосочетание, нужно понимать, какой смысл вы хотите вложить в выражение.
Если вы говорите о собаке, которая выбегает (то есть, покидает какое-либо место), то правильным вариантом будет "выбегающаяся собака". Это словосочетание подразумевает, что собака в процессе выбегания.
Если же имеется в виду собака, которая выбегает в целом, без акцента на процессе, то следует использовать фразу "выбегающая собака".
В зависимости от контекста, выбор будет разным, поэтому всегда важно учитывать окружающие слова и общий смысл предложения. Если нужно больше информации по этой теме или контексту, не стесняйтесь спрашивать!