La juguetería FAO Schwarz fue fundada en 1862 por el inmigrante alemán Frederick August Otto Schwarz en Baltimore (Maryland). La tienda, especializada en muñecas, en origen se llamó 'Schwarz Toy Bazaar', llegando a tener sucursales en Boston y Philadelphia.
En 1870, Schwarz abrió su primera tienda en Nueva York, en la Avenida Broadway con la Novena Avenida. En 1897, Schwarz cambia el nombre de su negocio añadiendo las iniciales de su nombre pasando a llamarse ‘FAO Schwarz’. Tras pasar por varias ubicaciones en Nueva York, en 1931 abrió en el 745 de la Quinta Avenida.
La tienda siguió perteneciendo a los Schwarz hasta que la falta de interés por continuar con el negocio de los más jóvenes de la familia, obligó a su venta en 1963. El negocio fue cambiando de manos a medida que las ventas iban descendiendo, hasta que en 1985 fue comprado por el grupo inversor Christiana Companies, Inc. quienes hicieron renacer a la juguetería con nuevas ideas y un cambio de ubicación de la tienda en 1986 al actual en el 767 de la Quinta Avenida, un local de 3.700 metros cuadrados en dos plantas situado en el General Motors Building. Antes de su inauguración la tienda estaba envuelta en papel rojo con un lazo blanco y una tarjeta que ponía "No abrir hasta el 6 de Noviembre". La tienda disponía de escaleras mecánicas, un ascensor de cristal y mayor espacio de venta con 80 áreas especializadas.
La juguetería FAO Schwarz se hizo mundialmente conocida al protagonizar una escena en la película de Disney 'Big' en la que un niño que desea hacerse mayor, cumple su deseo de la noche a la mañana teniéndose que enfrentar a los problemas de los adultos. En la escena, el protagonista (Tom Hanks) encuentra un teclado de piano gigante en el suelo de la juguetería que suena cuando pisa cada tecla formando una melodía y coreografía al unísono. El 'Big Pinao' continúa en la tienda para deleite de todos los visitantes que quieren emular a Tom Hanks. El piano está a la venta por $15.000.
En 1990, la juguetería fue vendida a la compañía holandesa Koninklijke Bijenkorf Beheer (KBB) y dos años más tarden abren un nuevo espacio en la tienda de la Quinta Avenida para albergar la 'Barbie Boutique' dedicada por entero a la muñeca de Mattel. En 1996, la tienda se amplía hasta los 5.500 metros cuadrados.
En 2001, Right Start, Inc. compra la tienda de la Quinta Avenida renovándola con un diseño dirigido por el estudio de arquitectos The Rockwell Group. En 2003, se declara en quiebra obligando a su cierre en Enero de 2004. El cierre fue breve y poco antes de Navidad de ese mismo año, en el Día de Acción, volvió a abrir sus puertas tras haberla adquirido el grupo D.E. Shaw por $40 millones junto a la tienda de las Vegas. En la actualidad la juguetería FAO Schwarz pertenece a Toys "R" Us Inc..
Los "soldados de plomo" dando la bienvenida a los visitantes, los gigantes animales de peluche, el 'Big Piano' y la boutique de Barbie hacen de esta tienda el lugar soñado por los niños y no tan niños.