Eso sucede porque los forms son realmente "controles superiores", vamos, que lo que estás intentando hacer es meter una ventana en un tabPage.
Si lo que quieres es reutilizar componentes, prueba a diseñar un componente basado en "panel" con toda la funcionalidad que necesitas, metes ese componente en un Form, y lo metes también en un TabPage. Así podrás reutilizar el esfuerzo, y si hay que actualizar algo, sólo actualizando el componente tendrás los cambios automágicamente aplicados tanto en el form (la ventana) como en el TabPage.
Un saludo.
Fullbyte Alchemist