La construction du télescope d'Arecibo a été initiée par le professeur William E. Gordon de l'Université Cornell, qui avait l'intention de l'utiliser à l'origine pour étudier l'ionosphère de la Terre. À l'origine, un réflecteur parabolique fixe, pointant dans une direction fixe avec une tour de 150 m pour porter l'équipement au foyer. Cette conception aurait eu un intérêt très limité pour d'autres domaines potentiels de recherche, tels que la science planétaire et la radioastronomie, qui ont besoin de viser différentes positions dans le ciel et de suivre ces positions pendant une longue période, alors que la Terre est en rotation. Ward Low de la Advanced Research Projects Agency (ARPA), a fait remarquer ce point faible et a mis Gordon en contact avec le Air Force Cambridge Research Laboratory (AFCRL) à Boston (Massachusetts) où un groupe dirigé par Phil Blacksmith travaillait sur les réflecteurs sphériques et un autre groupe étudiait la propagation des ondes radio dans et à travers la haute atmosphère. L'Université Cornell a proposé le projet à l'ARPA l'été 1958 et un contrat a été signé entre l'AFCRL et l'Université en novembre 1959. La construction a commencé l'été 1960 et l'ouverture officielle a eu lieu le 1er novembre 1963.
Le télescope a subi plusieurs modifications durant sa vie. La première grande modification a eu lieu en 1974 quand une surface haute précision a été ajoutée au réflecteur actuel. En 1997, un écran au sol a été installé autour du périmètre pour faire écran au rayonnement au sol et un transmetteur plus puissant a été installé.
Le télescope est apparu dans le film de James Bond GoldenEye, où Alec Trevelyan communiquait avec le satellite russe qui devait détruire Londres.
Dans l'épisode de X-Files intitulé Petits Hommes Verts, Fox Mulder est envoyé à l'observatoire d'Arecibo par un sénateur des États-Unis parce qu'ils ont été en contact avec une vie extraterrestre. L'observatoire devait être détruit par un groupe d'agents du gouvernement pour empêcher que le public découvre la vérité.
Il est apparu également dans les films Contact, The Arrival et La Mutante 1.
Le télescope a également eu des utilisations militaires de renseignement, par exemple pour localiser les installations de radar soviétiques, en détectant leurs signaux rebondissant sur la Lune.
Arecibo est la source de données pour le projet SETI@home proposé par le laboratoire de sciences spatiales de l'Université de Berkeley.
En 1974, une tentative a été faite pour envoyer un message vers d'autres mondes. Un message de 1 679 bits a été transmis à partir du radiotélescope vers l'amas globulaire M13, qui se trouve à environ 25 000 années-lumière. Le modèle de 1 et 0 définit une image bitmap de 23 pixels par 73 qui inclut des nombres, des bonshommes dessinés, des formules chimiques et une image brute du télescope lui-même.
Du 3 au 7 mars 2001, l'observatoire a été utilisé pour observer l'astéroïde (29075) 1950 DA, considéré comme étant l'objet le plus proche de la Terre.