In un contesto html, <?php , <something , ecc, è l'apertura di un tag html. Modifica < con la sua entità html < per evitare che accada..
<?php
Ancora meglio, usa htmlspecialchars:
<?php echo htmlspecialchars('<?php echo "test"; ?>'); ?>