Kaj je oddajanje iskre?
Kaj je oddajanje iskre?

Video: Kaj je oddajanje iskre?

Video: Kaj je oddajanje iskre?
Video: Болгарка искрит и дёргается, щётки новые, якорь, статор целый. Как починить? Ремонт инструмента Бош 2024, November
Anonim

Oddaja spremenljivke v Apache Iskra je mehanizem za skupno rabo spremenljivk med izvajalci, ki naj bi bili samo za branje. Brez oddaja spremenljivke bi bile te spremenljivke poslane vsakemu izvajalcu za vsako transformacijo in dejanje, kar lahko povzroči obremenitev omrežja.

Prav tako ljudje sprašujejo, kdaj naj oddajem iskrico?

Oddaja spremenljivke se večinoma uporabljajo, ko naloge v več fazah zahtevajo iste podatke ali ko je potrebno predpomnjenje podatkov v deserializirani obliki. Oddaja spremenljivke so ustvarjene s spremenljivko v s klicem SparkContext.

Tudi, kaj so akumulatorji in oddajne spremenljivke v iskri? Iskra podpira dve vrsti skupne rabe spremenljivke : oddajne spremenljivke , ki se lahko uporablja za predpomnilnik vrednosti v pomnilniku na vseh vozliščih, in akumulatorji , ki so spremenljivke ki se jim samo »dodajo«, kot so števci in vsote.

Glede na to, kaj je akumulator isker?

Akumulatorji so spremenljivke, ki se jim »dodajo« samo z asociativno operacijo in jih je zato mogoče učinkovito podpirati vzporedno. Uporabljajo se lahko za izvajanje števcev (kot v MapReduce) ali vsot. Iskra izvorno podpira akumulatorji številskih tipov, programerji pa lahko dodajo podporo za nove tipe.

Kako posodobim svojo oddajno spremenljivko v sparku?

  1. Iskanje referenčnih podatkov premaknite v forEachPartition ali forEachRdd, tako da je v celoti na delavcih.
  2. Znova zaženite kontekst Spark vsakič, ko se spremenijo refdata, z novo spremenljivko Broadcast.

Priporočena: