Para adicionar somente a caixa de pesquisa personalizada ao menu principal, você pode passar o segundo parâmetro fornecido pelo filtro wp_nav_menu_items e verificar se o theme_location é o local principal
add_filter('wp_nav_menu_items','search_box_function', 10, 2);
function search_box_function( $nav, $args ) {
if( $args->theme_location == 'primary' )
return $nav."<li class='menu-header-search'><form action='http://example.com/' id='searchform' method='get'><input type='text' name='s' id='s' placeholder='Search'></form></li>";
return $nav;
}