La deuxième phase du projet s’étend jusqu’en 1996 et comprend la construction de cinq centrales additionnelles sur la Grande Rivière et ses affluents (La Grande-1, La Grande-2 A, Laforge-1, Laforge-2 et Brisay) d’une capacité installée de 5 200 mégawatts. Trois nouveaux réservoirs d’une superficie totale de 1 600 km2 sont aussi créés, dont le réservoir Laforge-1 d'une superficie de 1 288 km2.
Les centrales de cette deuxième phase du projet produisent environ 18,3 TWh d’électricité annuellement et fonctionnent à 60% ou 70% de leur capacité maximale. À la fin de cette deuxième phase du projet de la Baie-James, la capacité installée de l'ensemble du Complexe La Grande est portée à 16 021 mégawatts et la production annuelle moyenne à environ 83 TWh.
La construction du Complexe hydroélectrique La Grande comprenait la dérivation des rivières Caniapiscau, Opinica et Eastmain vers le bassin versant de la Grande Rivière et l’inondation d’environ 11 000 km2 de forêt boréale. Le débit de la rivière Eastmain à son embouchure a été réduit de 90 %, près du village cri d'Eastmain, celui de la Caniapiscau de 45 % à sa confluence avec le fleuve Koksoak, et celui du Koksoak de 35 % à son embouchure près du village nordique de Kuujjuaq. Le débit de la Grande Rivière, par contre, a été doublé, passant de 1 700 m³/s à 3 400 m³/s sur une base annuelle (et de 500 m³/s à 5 000 m³/s pendant l’hiver), près du village cri de Chisasibi, à l’embouchure de la Grande Rivière.
L'activité bactérienne intense dans les années suivant la création des nouveaux réservoirs, qui dure habituellement de 20 à 30 ans en région boréale, convertit une partie du mercure présent dans la terre et les matières organiques submergées en méthylmercure (CH3Hg). Sous cette forme, le mercure est neurotoxique et s'accumule dans la chaîne alimentaire aquatique, notamment dans des espèces de poissons piscivores, tels que le grand brochet, le touladi et le doré jaune. Une partie du mercure qui se trouve dans tous les lacs, rivières et réservoirs du Nord québécois provient des émissions polluantes des centrales thermiques fonctionnant au charbon des pays industrialisés, notamment les États-Unis et le Canada.
Après la découverte de la présence de mercure à des niveaux élevés dans le sang des Cris de la région de la Baie-James, avant même la création des réservoirs sur la Grande Rivière, les autorités de santé locales ont dressé des consignes particulières concernant la consommation du poisson. Bien que la consommation du poisson sauvage est encore fortement recommandée par les autorités sanitaires, en raison de sa grande valeur nutritive, la capture de poissons à certains endroits spécifiques des nouveaux réservoirs est, pour l'instant, déconseillée et la consommation du poisson prédateur (ou piscivore) devrait être restreinte, surtout chez les femmes enceintes. Lors de certaines études de suivi, seuls quelques habitants du village cri de Whapmagoostui – qui mangent du poisson provenant des rivières vierges du Nunavik – affichaient encore un taux élevé de mercure. En 2005, le milieu aquatique des réservoirs du Complexe La Grande, dont l’âge moyen atteint 18 ans en 2005, ressemble de plus en plus à celui des lacs naturels de la région.
Les environnementalistes craignaient à l’origine que le projet de la Baie-James aurait un impact important sur les oiseaux migratoires; or, les réservoirs hydrauliques n’ont submergé que 1 % des zones utilisées par les oiseaux et leur population est demeurée stable depuis plus de 30 ans. De plus, le panache d’eau douce au large de l’embouchure de la Grande Rivière, qui est nettement plus grand en période hivernale, semble ne pas avoir d’impact significatif sur la vie aquatique et faunique de la région. De toute évidence, le réchauffement planétaire semble avoir un impact plus important dans cet environnement nordique que le changement du régime hydraulique de la Grande Rivière, empêchant par exemple la formation des banquises au large des côtes dont dépend les phoques, près des villages de Whapmagoostui et de Kuujjuarapik à l'embouchure de la Grande rivière de la Baleine.
Lors de la construction et le remplissage du réservoir Caniapiscau de 1981 à 1984, des variations importantes du débit de la Caniapiscau auraient contribué à la noyade de 10 000 caribous, soit environ 1,5 % du troupeau de la rivière George, en septembre 1984. L'événement a été fortement médiatisé et a soulevé plusieurs questions sur l'impact du projet de la Baie-James sur les populations animales.
La SEBJ, Hydro-Québec et le ministère du Loisir, de la Chasse et de la Pêche ont réalisé, à partir des années 1970, des inventaires et des études de comportement du caribou sur le territoire concerné par le projet. Selon ces études, dont les résultats ont été présentés en avril 1992 lors d'un colloque tenu à Sherbrooke dans le cadre du 59e congrès de l'Association francophone pour le savoir, les effets de la construction du complexe La Grande sur les populations de caribous sont négligeables.
En 2008-2009, le Ministère des Ressources naturelles et de la Faune du Québec (MRNF) a enregistré une prise de 16 830 caribous pour la province.
Dans le sillage de la conférence de Kyoto sur les changements climatiques de 1997, s’est élevé un débat sur les émissions de gaz à effet de serre produites par les grands réservoirs hydrauliques, notamment à cause de la production de méthane par l’activité biotique du milieu aquatique. Toutefois, les émissions de gaz à effet de serre des grands réservoirs en région boréale représentent de 1 à 4 pour cent des émissions associées aux centrales thermiques fonctionnant au charbon et de 2 à 8 pour cent des émissions d'une centrale à cycle combiné fonctionnant au gaz naturel.
Finalement, les exportations d'électricité québécoise de 1989 à 1996, pendant la période où le Québec avait d'importants surplus d'électricité, ont eu pour effet d'éviter des émissions de gaz à effet de serre dans les centrales au charbon et au pétrole en Ontario, dans l'État de New York et dans les États de la Nouvelle-Angleterre, soit quelque 87 millions de tonnes équivalents de CO2.